基于自底向上特征恢复的无源测量偏移自适应
机器学习
2022-03-18 v3 人工智能
计算机视觉与模式识别
机器学习
摘要
无源域自适应（SFDA）旨在将在源域中带标签数据上训练的模型自适应到目标域中的无标签数据，且在自适应过程中无法访问源域数据。现有的 SFDA 方法利用熵最小化技术，这些技术：(i) 仅适用于分类；(ii) 破坏模型校准；(iii) 依赖于源模型在目标域中达到良好的特征空间类分离水平。我们针对一种特别普遍的域偏移类型——测量偏移——解决了这些问题，该偏移可通过恢复源特征而非提取新特征来解决。具体而言，我们提出特征恢复（FR），其中我们：(i) 存储源数据下特征分布的轻量级且灵活的近似；(ii) 调整特征提取器，使目标数据下的近似特征分布与源上保存的分布重新对齐。我们还提出了一种提升性能的自底向上训练方案，称之为自底向上特征恢复（BUFR）。在真实与合成数据上，我们证明 BUFR 在准确率、校准和数据效率方面优于现有 SFDA 方法，同时更少依赖于源模型在目标域中的性能。
引用
@article{arxiv.2107.05446,
title = {Source-Free Adaptation to Measurement Shift via Bottom-Up Feature Restoration},
author = {Cian Eastwood and Ian Mason and Christopher K. I. Williams and Bernhard Schölkopf},
journal= {arXiv preprint arXiv:2107.05446},
year = {2022}
}
备注
ICLR 2022 (Spotlight)