匹配高维几何分位数以实现 Transformer 与卷积网络的测试时自适应
机器学习
2026-01-19 v1 计算机视觉与模式识别
摘要
测试时自适应是指当测试数据的概率分布与模型训练数据的概率分布略有不同时，针对测试数据调整分类器。据我们所知，大多数现有的 TTA 方法在修改分类器权重时严重依赖于特定架构。这些方法如何扩展到通用架构尚不明确。在本文中，我们提出了一种与架构无关的 TTA 方法，通过添加一个适配器网络对输入图像进行预处理以适配分类器。该适配器使用所提出的分位数损失进行训练。与现有方法不同，我们通过匹配高维几何分位数来纠正分布偏移。我们在理论上证明了，在适当条件下，最小化分位数损失可以学习到最优适配器。我们通过在 CIFAR10、CIFAR100 和 TinyImageNet 数据集上训练经典卷积网络和 Transformer 网络，并在 CIFAR10-C、CIFAR100-C 和 TinyImageNet-C 上验证了我们的方法。
引用
@article{arxiv.2601.11022,
title = {Matching High-Dimensional Geometric Quantiles for Test-Time Adaptation of Transformers and Convolutional Networks Alike},
author = {Sravan Danda and Aditya Challa and Shlok Mehendale and Snehanshu Saha},
journal= {arXiv preprint arXiv:2601.11022},
year = {2026}
}