LATTA：用于增强鲁棒性和稳定性的朗之万锚定测试时自适应
机器学习
2025-10-08 v1
摘要
测试时自适应（TTA）旨在仅使用无标签测试数据将预训练模型适应分布偏移。虽然前景可期，但现有方法如 Tent 遭受不稳定性的困扰，并可能灾难性地遗忘源知识，尤其是在小批量或挑战性损坏的情况下。我们认为这源于在复杂损失面上的过度确定性更新。在本文中，我们引入了朗之万锚定测试时自适应（LATTA），一种通过两个关键机制正则化自适应的新方法：（1）受随机梯度朗之万动力学（SGLD）启发的噪声权重扰动，用于探索局部参数空间并逃离差的局部极小值，以及（2）稳定权重锚点，防止模型偏离其鲁棒的源预训练。这种组合使 LATTA 能够有效适应而不牺牲稳定性。与先验贝叶斯 TTA 方法不同，LATTA 不需要架构更改或昂贵的蒙特卡洛采样。我们在标准基准上进行了广泛实验，包括 Rotated-MNIST 和更具挑战性的 CIFAR-10-C。我们的结果表明，LATTA 显著优于现有方法，包括 Tent、CoTTA 和 EATA，通过在 CIFAR-10-C 上将平均准确率提高超过 2% 同时降低性能方差，为自监督 TTA 设立了新的最先进水平。
引用
@article{arxiv.2510.05530,
title = {LATTA: Langevin-Anchored Test-Time Adaptation for Enhanced Robustness and Stability},
author = {Harshil Vejendla},
journal= {arXiv preprint arXiv:2510.05530},
year = {2025}
}
备注
MIT URTC 2025 Technical Paper (Oral), 5 pages, 3 figures