通过偏移无关权重正则化与最近源原型改进测试时自适应
计算机视觉与模式识别
2022-07-26 v1
摘要
本文提出一种新颖的测试时自适应策略，仅利用来自目标域的无标签在线数据调整在源域上预训练的模型，以缓解源域与目标域间分布偏移导致的性能退化。使用无标签在线数据调整全部模型参数可能因无监督目标产生的错误信号而有害。为缓解该问题，我们提出一种偏移无关权重正则化，在测试时自适应期间鼓励大幅更新对分布偏移敏感的模型参数，而轻微更新对偏移不敏感的那些参数。该正则化使模型能够利用高学习率的优势快速适应目标域且不产生性能退化。此外，我们提出一种基于最近源原型的辅助任务以对齐源域与目标域特征，有助于减小分布偏移并带来进一步的性能提升。我们表明，我们的方法在各种标准基准上展现出最先进的性能，甚至优于其有监督对应方法。
引用
@article{arxiv.2207.11707,
title = {Improving Test-Time Adaptation via Shift-agnostic Weight Regularization and Nearest Source Prototypes},
author = {Sungha Choi and Seunghan Yang and Seokeon Choi and Sungrack Yun},
journal= {arXiv preprint arXiv:2207.11707},
year = {2022}
}
备注
Accepted to ECCV 2022