范数越大可迁移性越强：一种用于无监督域自适应的自适应特征范数方法
计算机视觉与模式识别
2019-08-05 v2
摘要
域自适应通过缓解分布间的域偏移，使学习器能够安全地泛化到新环境。先前的工作可能未能有效揭示导致目标任务上模型严重退化的潜在原因。本文通过实证揭示，目标域的判别混乱主要源于其相对于源域小得多的特征范数。为此，我们提出一种新颖的免参数自适应特征范数（Adaptive Feature Norm）方法。我们证明，将两域的特征范数逐步自适应到较大取值范围可带来显著的迁移增益，这意味着那些具有较大范数的任务特定特征更具可迁移性。我们的方法成功统一了标准域自适应与部分域自适应的计算，并对负迁移问题具有更强的鲁棒性。无需繁复技巧，仅数行代码，我们的方法在目标任务上大幅提升了性能，并以较大优势超越当前最优方法（在 Office-Home 上提升 11.5%，在 VisDA2017 上提升 17.1%）。我们希望这一简单而有效的方法能为迁移学习的未来研究提供些许启示。代码见 https://github.com/jihanyang/AFN。
引用
@article{arxiv.1811.07456,
title = {Larger Norm More Transferable: An Adaptive Feature Norm Approach for Unsupervised Domain Adaptation},
author = {Ruijia Xu and Guanbin Li and Jihan Yang and Liang Lin},
journal= {arXiv preprint arXiv:1811.07456},
year = {2019}
}
备注
Accepted as an Oral presentation at ICCV2019