EcoTTA：基于自蒸馏正则化的内存高效持续测试时自适应
计算机视觉与模式识别
2023-05-24 v4
摘要
本文提出一种简单而有效的方法，以内存高效的方式改进持续测试时自适应（TTA）。TTA 可能主要在内存受限的边缘设备上进行，因此减少内存至关重要，但在以往 TTA 研究中被忽视。此外，长期自适应常导致灾难性遗忘与误差累积，阻碍了 TTA 在真实部署中的应用。我们的方法包含两部分以解决这些问题。首先，我们提出轻量元网络，可将冻结的原始网络适配到目标域。该新颖架构通过减小反向传播所需的中间激活规模来最小化内存消耗。其次，我们新颖的自蒸馏正则化控制元网络输出不显著偏离冻结原始网络的输出，从而保留源域中训练良好的知识。无需额外内存，该正则化防止误差累积与灾难性遗忘，即使在长期测试时自适应中也带来稳定性能。我们证明这一简单而有效的策略在图像分类与语义分割任务的多个基准上优于其他最先进方法。值得注意的是，我们提出的使用 ResNet-50 与 WideResNet-40 的方法比近期最先进方法 CoTTA 少占用 86% 与 80% 的内存。
引用
@article{arxiv.2303.01904,
title = {EcoTTA: Memory-Efficient Continual Test-time Adaptation via Self-distilled Regularization},
author = {Junha Song and Jungsoo Lee and In So Kweon and Sungha Choi},
journal= {arXiv preprint arXiv:2303.01904},
year = {2023}
}
备注
Accepted to CVPR 2023, Project page: https://sites.google.com/view/junha/ecotta