用于持续与渐进测试时自适应的鲁棒均值教师
计算机视觉与模式识别
2023-03-24 v2
摘要
由于在实践中测试时遭遇域偏移不可避免，测试时自适应（TTA）在部署后继续调整模型。近来，持续与渐进测试时自适应（TTA）领域兴起。与标准 TTA 不同，持续 TTA 不仅考虑单次域偏移，而是考虑一系列偏移。渐进 TTA 进一步利用某些偏移随时间逐渐演化的特性。由于两种设定下均存在长测试序列，对于依赖自训练的方法需解决误差累积问题。在本工作中，我们提出并表明，在 TTA 设定下，相较于常用的交叉熵，对称交叉熵更适合作为均值教师的一致性损失。这由我们关于（对称）交叉熵梯度性质的分析所佐证。为将测试特征空间拉近预训练模型表现良好的源域，我们利用了对比学习。由于应用需求各异，我们处理了多种设定，包括有源数据可用的情形以及更具挑战性的无源设定。我们在持续与渐进腐蚀基准 CIFAR10C、CIFAR100C 和 Imagenet-C 上展示了我们提出的方法“鲁棒均值教师”（RMT）的有效性。我们进一步考量 ImageNet-R 并提出了新的持续 DomainNet-126 基准。在所有基准上均取得了最先进（SOTA）结果。
引用
@article{arxiv.2211.13081,
title = {Robust Mean Teacher for Continual and Gradual Test-Time Adaptation},
author = {Mario Döbler and Robert A. Marsden and Bin Yang},
journal= {arXiv preprint arXiv:2211.13081},
year = {2023}
}
备注
Accepted at CVPR 2023