利用特权信息学习的无监督域适应
机器学习
2024-06-13 v3 机器学习
摘要
成功的无监督域适应仅在强假设下才得以保证，例如协变量偏移与输入域之间的重叠。后者在图像分类等高维应用中常被违背，尽管存在此局限，该应用仍持续作为算法开发的灵感与基准。本文中，我们表明以辅助变量形式在训练时获取侧信息，有助于放宽对输入变量的限制，并以收集更丰富变量集为代价提高学习的样本效率。由于该信息仅假设在训练时可用、部署时不可用，我们称此问题为利用特权信息学习的无监督域适应（DALUPI）。为解决该问题，我们受目标域期望误差分析的启发提出一种简单的两阶段学习算法，以及一种用于图像分类的实用端到端变体。我们基于照片中实体分类与医学图像中异常分类提出了三项评估任务，其可用特权信息类型各异（二值属性及单或多感兴趣区域）。我们在这些任务上证明，学习中利用特权信息相比基线可降低域迁移误差、对源域中的伪相关具有鲁棒性，并提升样本效率。
引用
@article{arxiv.2303.09350,
title = {Unsupervised domain adaptation by learning using privileged information},
author = {Adam Breitholtz and Anton Matsson and Fredrik D. Johansson},
journal= {arXiv preprint arXiv:2303.09350},
year = {2024}
}