使用自适应分位数重新校准的测试时自适应
机器学习
2025-11-06 v1 计算机视觉与模式识别
摘要
域自适应是增强深度学习模型在现实场景中泛化能力的关键策略,在这些场景中,测试分布通常与训练域显著不同。然而,传统方法通常依赖于目标域的先验知识或需要模型重新训练,限制了它们在动态或资源受限环境中的实用性。最近基于批归一化统计更新的测试时自适应方法允许无监督自适应,但它们通常无法捕捉复杂的激活分布,并且局限于特定的归一化层。我们提出了自适应分位数重新校准(AQR),这是一种测试时自适应技术,通过在通道层面上对齐分位数来修改预激活分布。AQR捕捉了激活分布的完整形状,并适用于采用BatchNorm、GroupNorm或LayerNorm的架构。为了解决在不同批量大小下估计分布尾部的挑战,AQR结合了一种鲁棒的尾部校准策略,提高了稳定性和精度。我们的方法利用在训练时计算的源域统计信息,实现了无需重新训练模型的无监督自适应。在CIFAR-10-C、CIFAR-100-C和ImageNet-C上跨多种架构的实验表明,AQR在各种设置下均实现了鲁棒的自适应,优于现有的测试时自适应基线。这些结果突显了AQR在具有动态和不可预测数据分布的现实场景中部署的潜力。
引用
@article{arxiv.2511.03148,
title = {Test Time Adaptation Using Adaptive Quantile Recalibration},
author = {Paria Mehrbod and Pedro Vianna and Geraldin Nanfack and Guy Wolf and Eugene Belilovsky},
journal= {arXiv preprint arXiv:2511.03148},
year = {2025}
}