基于特征权重余弦对齐的增强型在线测试时适应
计算机视觉与模式识别
2024-05-14 v1
摘要
在线测试时适应(OTTA)已成为有效应对分布迁移的策略，使预训练模型能在推理期间无需源数据即可针对新目标域进行实时适应。我们发现，广泛研究的熵最小化(EM)方法在OTTA中因决策边界附近的歧义性和错误的低熵预测而产生噪声梯度。为克服这些限制，本文引入一种新的余弦对齐优化方法，采用双目标损失函数以细化类别预测精度并增强对新域的适应性。具体而言，我们方法优化特征向量与类别权重向量之间的余弦相似度，从而提升类别预测精度和模型对新域的适应性。我们的方法在多个数据集上超越最先进技术，包括 CIFAR-10-C、CIFAR-100-C、ImageNet-C、Office-Home 和 DomainNet 数据集，展现出高准确率和对多样化损坏和域迁移的鲁棒性。
引用
@article{arxiv.2405.07171,
title = {Enhanced Online Test-time Adaptation with Feature-Weight Cosine Alignment},
author = {WeiQin Chuah and Ruwan Tennakoon and Alireza Bab-Hadiashar},
journal= {arXiv preprint arXiv:2405.07171},
year = {2024}
}
备注
22 pages, 7 figures, 8 tables