PLACE dropout:一种用于域泛化的渐进式逐层逐通道 dropout
机器学习
2023-09-19 v2 计算机视觉与模式识别
摘要
域泛化(DG)旨在从多个观测源域中学习一个通用模型,使其无需进一步训练即可良好泛化到任意未见目标域。DG 的主要挑战在于,由于源域与目标域之间的域差距,模型不可避免地面临严重的过拟合问题。为缓解该问题,已有一些基于 dropout 的方法通过丢弃中间层表征的一部分来抑制过拟合。然而,我们观察到此类方法大多仅在特定某些层执行 dropout,导致对模型的正则化效果不足。我们认为在多层应用 dropout 可产生更强的正则化效果,比先前层特定的 dropout 方法更能充分缓解源域上的过拟合。本文中,我们提出了一种用于 DG 的新颖逐层逐通道 dropout,其随机选取一层再随机选取其通道执行 dropout。特别地,所提方法能生成多种数据变体以更好地应对过拟合问题。我们还对该 dropout 方法提供了理论分析,并证明其能有效降低泛化误差上界。此外,我们采用渐进式方案随训练进程增大 dropout 比率,从而逐步提升模型训练难度以增强其鲁棒性。在三个标准基准数据集上的大量实验表明,我们的方法优于若干最先进的 DG 方法。我们的代码见 https://github.com/lingeringlight/PLACEdropout。
引用
@article{arxiv.2112.03676,
title = {PLACE dropout: A Progressive Layer-wise and Channel-wise Dropout for Domain Generalization},
author = {Jintao Guo and Lei Qi and Yinghuan Shi and Yang Gao},
journal= {arXiv preprint arXiv:2112.03676},
year = {2023}
}
备注
Accepted by ACM TOMM 2023. The code is available at https://github.com/lingeringlight/PLACEdropout