开放集标签偏移下的域适应
机器学习
2022-10-18 v2
摘要
我们引入开放集标签偏移（OSLS）下的域适应问题，其中标签分布可任意改变且部署期间可能出现新类别，但类条件分布 p(x|y) 是域不变的。OSLS 包含了标签偏移下的域适应与正-无标签（PU）学习。此处学习者的目标有二：（a）估计目标标签分布，包括新类别；以及（b）学习目标分类器。首先，我们建立了辨识这些量的充要条件。其次，受标签偏移与 PU 学习进展的启发，我们提出利用黑盒预测器完成两项任务的实用方法。与通常病态且只能诉诸启发式方法的典型开放集域适应（OSDA）问题不同，OSLS 提供了一个适定问题，可采用更原理化的机制。在视觉、语言与医疗数据集上众多半合成基准的实验表明，我们的方法持续优于 OSDA 基线，在目标域准确率上取得 10--25% 的提升。最后，我们分析所提方法，在高斯设定下建立有限样本收敛到真实标签边缘分布以及对线性模型收敛到最优分类器。代码见 https://github.com/acmi-lab/Open-Set-Label-Shift。
引用
@article{arxiv.2207.13048,
title = {Domain Adaptation under Open Set Label Shift},
author = {Saurabh Garg and Sivaraman Balakrishnan and Zachary C. Lipton},
journal= {arXiv preprint arXiv:2207.13048},
year = {2022}
}
备注
Accepted at NeurIPS 2022