REALM：用于改进单样本测试时自适应的鲁棒熵自适应损失最小化
机器学习
2023-09-11 v1 计算机视觉与模式识别
摘要
全测试时自适应（F-TTA）可以缓解由于训练与测试数据间分布偏移导致的性能损失，其（1）无需访问训练数据，（2）无需知晓模型训练过程。在在线 F-TTA 中，预训练模型通过使用测试样本流最小化自监督目标（如熵最小化）进行自适应。然而，使用熵最小化进行在线自适应的模型不稳定，尤其在单样本设置下会导致退化解，并限制了 TTA 推理策略的采用。先前工作将噪声或不可靠样本视为在线 F-TTA 失败的原因。一种解决方案是忽略这些样本，但这会导致更新过程中的偏差、自适应缓慢和泛化能力差。在本工作中，受自步学习和鲁棒损失函数启发，我们提出一个提升 F-TTA 对这些噪声样本鲁棒性的通用框架。我们提出的方法——鲁棒熵自适应损失最小化（REALM）——在 CIFAR-10 和 ImageNet-1K 的腐蚀数据上整个自适应过程中取得了优于先前方法的自适应精度，证明了其有效性。
引用
@article{arxiv.2309.03964,
title = {REALM: Robust Entropy Adaptive Loss Minimization for Improved Single-Sample Test-Time Adaptation},
author = {Skyler Seto and Barry-John Theobald and Federico Danieli and Navdeep Jaitly and Dan Busbridge},
journal= {arXiv preprint arXiv:2309.03964},
year = {2023}
}
备注
Accepted at WACV 2024, 17 pages, 7 figures, 11 tables