组合风险如何影响无监督域适应方法的性能？
机器学习
2021-01-05 v1 人工智能
计算机视觉与模式识别
摘要
无监督域适应（UDA）旨在利用源域的有标签样本和目标域的无标签样本训练目标分类器。经典的 UDA 学习界表明，目标风险由上界三项限定：源风险、分布差异和组合风险。基于组合风险为较小固定值的假设，基于此界的方法仅通过最小化源风险和分布差异的估计量来训练目标分类器。然而，在最小化这两个估计量时，组合风险可能会增大，这使得目标风险不可控。因此，若无法控制组合风险，目标分类器便无法达到理想性能。控制组合风险的关键挑战在于目标域中有标签样本不可用。为应对这一关键挑战，我们提出一种名为 E-MixNet 的方法。E-MixNet 在带标签的源样本和伪标签目标样本上采用增强 mixup（一种通用邻域分布）来计算组合风险的代理。实验表明，该代理在最小化源风险和分布差异时能有效抑制组合风险的增大。此外，我们展示若将组合风险的代理加入四种代表性 UDA 方法的损失函数中，它们的性能同样得到提升。
引用
@article{arxiv.2101.01104,
title = {How does the Combined Risk Affect the Performance of Unsupervised Domain Adaptation Approaches?},
author = {Li Zhong and Zhen Fang and Feng Liu and Jie Lu and Bo Yuan and Guangquan Zhang},
journal= {arXiv preprint arXiv:2101.01104},
year = {2021}
}
备注
9 pages, 3 figures, Accepted by Association for the Advancement of Artificial Intelligence 2021 (AAAI 2021)