基于扰动变异自标记的加权多数投票域自适应
机器学习
2014-10-02 v1 机器学习
摘要
在机器学习中,当测试(目标)数据与训练(源)数据源自不同分布时,便出现了域自适应问题。因此,一个关键的应用问题是设计能够在新分布上进行泛化的算法,而我们对新分布没有标签信息。我们专注于学习定义为在一组实值函数上的加权多数投票的分类模型。在此背景下,Germain 等人 (2013) 表明,控制这些函数之间的不一致性度量至关重要。该度量的核心是一个理论界——C-bound (Lacasse 等人,2007),它涉及不一致性,并导出了在常规非自适应监督设置中表现良好的多数投票学习算法:MinCq。在本工作中,我们提出了一个将 MinCq 扩展到域自适应场景的框架。该过程利用了 Harel 和 Mannor (2012) 提出的最近关于分布间的扰动变异散度。由对投票目标风险的理论界所证实,我们通过基于扰动变异的自标记为目标样本提供标签,该自标记聚焦于源分布和目标分布边缘分布相似的区域。我们还研究了自标记的影响,并由此推导出一种调整超参数的原创过程。最后,我们的框架 PV-MinCq 在一个旋转和平移合成问题上展示了非常有希望的结果。
引用
@article{arxiv.1410.0334,
title = {Domain adaptation of weighted majority votes via perturbed variation-based self-labeling},
author = {Emilie Morvant},
journal= {arXiv preprint arXiv:1410.0334},
year = {2014}
}