域对齐遇见全测试时自适应
计算机视觉与模式识别
2022-07-12 v1 机器学习
摘要
已部署机器学习模型的一个基本需求是能泛化到与训练分布不同的测试分布数据。该问题的一个流行解法是仅利用无标签数据将预训练模型适配到新域。本文关注该问题的一个更具挑战性的变体，即原始源数据的访问受限。尽管全测试时自适应（fully test-time adaptation, FTTA）与无监督域适配（unsupervised domain adaptation, UDA）密切相关，但 UDA 的进展并不能直接用于 TTA，因为大多数 UDA 方法需要访问源数据。因此，我们提出一种新方法 CATTAn，通过一种新颖的深度子空间对齐策略，放宽对完整源数据的访问需求，从而桥接 UDA 与 FTTA。仅需极小的存储开销来保存源数据的子空间基集，CATTAn 便能在适配过程中实现源域与目标域间的无监督对齐。通过在多个 2D 与 3D 视觉基准（ImageNet-C、Office-31、OfficeHome、DomainNet、PointDA-10）及多种模型架构上的大量实验评估，我们展示了 FTTA 性能的显著提升。此外，我们就对齐目标即便在固有鲁棒模型、预训练 ViT 表示以及目标域低样本可用性下的效用，得出了若干关键发现。
引用
@article{arxiv.2207.04185,
title = {Domain Alignment Meets Fully Test-Time Adaptation},
author = {Kowshik Thopalli and Pavan Turaga and Jayaraman J. Thiagarajan},
journal= {arXiv preprint arXiv:2207.04185},
year = {2022}
}
备注
16 Pages including references, 5 figures