面向标签偏移鲁棒测试时自适应的通道选择性归一化

深度神经网络在许多不同任务中具有有用的应用，然而其性能可能会受到数据分布变化的严重影响。例如，在生物医学领域，其性能可能会受到训练数据集和测试数据集之间数据变化（不同机器、人群）的影响。为了确保对现实场景的鲁棒性和泛化能力，测试时自适应（test-time adaptation, TTA）最近被研究作为一种在推理期间调整模型以适应新数据分布的方法。测试时批归一化是一种简单且流行的方法，在域偏移基准测试中取得了令人信服的性能。它是通过在测试批次上重新计算批归一化统计量来实现的。先前的工作主要集中在分析与训练数据具有相同标签分布的测试数据。然而，在许多实际应用中，该技术容易受到标签分布偏移的影响，有时会导致灾难性失败。这在部署测试时自适应方法时构成了风险。我们提出通过仅选择性地适应深度网络中的通道来应对这一挑战，从而最小化对标签偏移敏感的剧烈适应。我们的选择方案基于两个我们在经验上论证的原则：(1) 网络的后期层对标签偏移更敏感；(2) 单个特征可能对特定类别敏感。我们将所提出的技术应用于三个分类任务，包括 CIFAR10-C、Imagenet-C 和脂肪肝诊断，在其中我们探索了协变量和标签分布偏移。我们发现，我们的方法能够在显著降低其他方法常见的失败风险的同时，带来 TTA 的好处，并且对超参数的选择具有鲁棒性。