SoTTA：面向噪声数据流鲁棒的测试时自适应方法
机器学习
2023-10-17 v1
摘要
测试时自适应（TTA）旨在仅利用无标签测试数据流进行持续模型自适应，以解决训练与测试数据之间的分布偏移。然而，大多数 TTA 方法假设测试流是良性的，而实际环境中的测试样本可能出人意料地多样。例如，自动驾驶中可能出现未见过的物体或噪声。这给现有 TTA 算法带来了新的威胁；我们发现先前的 TTA 算法会因盲目适应 incoming 样本而受这些噪声测试样本的影响。为解决该问题，我们提出 Screening-out Test-Time Adaptation（SoTTA），一种对噪声样本鲁棒的新型 TTA 算法。SoTTA 的关键使能因素有两点：（i）通过高置信度均匀类别采样实现的输入级鲁棒性，有效过滤噪声样本的影响；（ii）通过熵-锐度最小化实现的参数级鲁棒性，提升模型参数对噪声样本产生的大梯度的鲁棒性。我们在带有多种噪声场景的标准 TTA 基准上的评估表明，我们的方法在存在噪声样本时优于最先进的 TTA 方法，并在无噪声样本时取得与这些方法相当的精度。源代码见 https://github.com/taeckyung/SoTTA。
引用
@article{arxiv.2310.10074,
title = {SoTTA: Robust Test-Time Adaptation on Noisy Data Streams},
author = {Taesik Gong and Yewon Kim and Taeckyung Lee and Sorn Chottananurak and Sung-Ju Lee},
journal= {arXiv preprint arXiv:2310.10074},
year = {2023}
}
备注
Accepted to NeurIPS 2023