MITA：弥合模型与数据之间差距的测试时自适应方法
机器学习
2024-10-15 v1 计算机视觉与模式识别
摘要
测试时自适应（TTA）已成为增强模型泛化能力的一种有前景的范式。然而，现有的主流TTA方法主要在批次级别运行，在复杂的现实场景中，尤其是在面对异常值或混合分布时，往往表现出次优性能。这一现象源于对统计模式的过度依赖，而忽视了个体实例的独特特征，导致模型捕获的分布与数据特征之间存在偏差。为了解决这一挑战，我们提出了基于“中间相遇”的测试时自适应方法（），该方法引入基于能量的优化，鼓励模型和数据从相反方向相互适应，从而在中间相遇。MITA开创性地偏离了传统方法仅关注使模型与数据对齐的做法，促进了模型分布与数据特征之间更有效的弥合。在三种不同场景（异常值、混合和纯净）下使用MITA进行的全面实验表明，其性能优于最先进的方法，突显了其在实际应用中显著增强泛化能力的潜力。
引用
@article{arxiv.2410.09398,
title = {MITA: Bridging the Gap between Model and Data for Test-time Adaptation},
author = {Yige Yuan and Bingbing Xu and Teng Xiao and Liang Hou and Fei Sun and Huawei Shen and Xueqi Cheng},
journal= {arXiv preprint arXiv:2410.09398},
year = {2024}
}