子群体偏移下标签传播的理论
机器学习
2021-07-21 v3 人工智能
机器学习
摘要
机器学习的核心问题之一是域适应。与以往理论工作不同,我们考虑输入或表示空间中子群体偏移的一种新模型。在本工作中,我们提出一种可证明有效的基于标签传播的域适应框架。在我们的分析中,我们使用 \citet{wei2021theoretical} 提出的简单但现实的扩展假设。利用在源域上训练的教师分类器,我们的算法不仅传播到目标域,还优于该教师。通过借助已有的泛化界,我们也获得了关于整个算法的端到端有限样本保证。此外,我们将理论框架扩展到基于第三个无标签数据集的源到目标迁移的更一般设定,其可轻易应用于多种学习场景。受我们的理论启发,我们将基于一致性的半监督学习方法适配到域适应设定中,并获得了显著改进。
引用
@article{arxiv.2102.11203,
title = {A Theory of Label Propagation for Subpopulation Shift},
author = {Tianle Cai and Ruiqi Gao and Jason D. Lee and Qi Lei},
journal= {arXiv preprint arXiv:2102.11203},
year = {2021}
}
备注
ICML 2021