SPARNet：基于样本分区策略和抗遗忘正则化的持续测试时适应
计算机视觉与模式识别
2025-01-03 v1
摘要
测试时适应 (TTA) 旨在在模型部署后遇到域变化时提高模型性能。标准 TTA 主要考虑目标域为静态的情况，而持续 TTA 需要依次处理一系列域变化。这遇到了显著挑战，因为模型需要长期适应且不知道何时发生域变化。伪标签的质量难以保证。使用简单自训练方法生成的噪声伪标签会导致误差累积和灾难性遗忘。在本工作中，我们提出了名为 SPARNet 的新框架，包含两个部分：样本分区策略和抗遗忘正则化。样本分区策略将样本分为两个组，即可靠样本和不可靠样本。根据每组样本的特征，我们选择不同的策略来处理不同组的样本。这确保了可靠样本对模型贡献更大。同时，通过均值教师的一致性学习消除不可靠样本的负面影响。最后，我们引入一个正则化项来缓解灾难性遗忘问题，该项可以限制重要参数的过度变化。这一项使网络参数的长期适应成为可能。通过在 CIFAR10-C、CIFAR100-C 和 ImageNet-C 上进行大量实验，证明了该方法在持续 TTA 场景下的有效性。
引用
@article{arxiv.2501.00818,
title = {SPARNet: Continual Test-Time Adaptation via Sample Partitioning Strategy and Anti-Forgetting Regularization},
author = {Xinru Meng and Han Sun and Jiamei Liu and Ningzhong Liu and Huiyu Zhou},
journal= {arXiv preprint arXiv:2501.00818},
year = {2025}
}
备注
8 pages, 2 figures