探寻迷失的在线测试时自适应：一项综述
人工智能
2024-07-19 v3
摘要
本文对在线测试时自适应(OTTA)进行了全面综述，聚焦于在批次到达时有效地将机器学习模型适配到分布不同的目标数据。尽管近期OTTA方法大量涌现，但由于设置模糊、骨干网络过时以及超参数调优不一致，先前研究的结论并不一致，这模糊了核心挑战并阻碍了可复现性。为提升清晰度并支持严格比较，我们将OTTA技术分为三类，并使用现代骨干网络Vision Transformer (ViT)对它们进行基准测试。我们的基准涵盖CIFAR-10/100-C和ImageNet-C等常规 corrupted 数据集，以及由CIFAR-10.1、OfficeHome和CIFAR-10-Warehouse代表的真实世界偏移。CIFAR-10-Warehouse数据集包含来自不同搜索引擎的多种变体以及通过扩散模型合成的生成数据。为衡量在线场景中的效率，我们引入了包括GFLOPs、挂钟时间和GPU内存使用在内的新评估指标，从而更清晰地呈现适配精度与计算开销之间的权衡。我们的发现与现有文献不同，揭示出：(1) transformer对多样域偏移表现出更高鲁棒性，(2)许多OTTA方法的有效性依赖于大批次大小，(3)在适配过程中优化的稳定性与抗扰动能力至关重要，尤其当批次大小为1时。基于这些见解，我们强调了未来研究的有前景方向。我们的基准测试工具包与源代码可在 https://github.com/Jo-wang/OTTA_ViT_survey 获取。
引用
@article{arxiv.2310.20199,
title = {In Search of Lost Online Test-time Adaptation: A Survey},
author = {Zixin Wang and Yadan Luo and Liang Zheng and Zhuoxiao Chen and Sen Wang and Zi Huang},
journal= {arXiv preprint arXiv:2310.20199},
year = {2024}
}
备注
International Journal of Computer Vision (IJCV)