通过置信度最大化与输入变换实现分布偏移下的测试时自适应

深度神经网络在训练数据分布下概率较低的数据（例如受 corruption 影响的数据）上常表现不佳。先前工作表明，对数据偏移的测试时自适应（例如使用熵最小化）能有效提升在此类偏移分布上的性能。本文关注全测试时自适应设定，其仅需来自目标分布的未标记数据，从而可对任意预训练网络进行自适应。具体而言，我们提出了一种新颖的损失函数，通过解决熵最小化的过早收敛与不稳定问题来改进测试时自适应。这是通过用非饱和代理替换熵，并添加基于批wise熵最大化的多样性正则化项以防止收敛到平凡的坍缩解来实现的。此外，我们提议在网络前附加一个输入变换模块，可部分消除测试时分布偏移。令人惊讶的是，该预处理可仅使用全测试时自适应损失以端到端方式学习，无需任何目标域标签或源域数据。我们表明，在如ImageNet-C等具挑战性的基准上，我们的方法在提升公开可用预训练图像分类器对常见 corruptions 的鲁棒性方面优于先前工作。