代表性域自适应的泛化界
机器学习
2014-01-03 v1 机器学习
摘要
在本文中，我们提出了一种新框架来分析一种代表性域自适应（即结合多个源域和一个目标域的数据，简称代表性域自适应）学习过程的理论性质。具体而言，我们使用积分概率度量来衡量两个域分布之间的差异，同时将其与 H-散度和差异距离进行比较。我们分别为多域开发了 Hoeffding 型、Bennett 型和 McDiarmid 型偏差不等式，然后提出了针对代表性域自适应的对称化不等式。接下来，我们利用推导出的不等式分别获得了基于统一熵数的 Hoeffding 型和 Bennett 型泛化界。此外，我们提出了基于 Rademacher 复杂度的泛化界。最后，我们分析了代表性域自适应学习过程的渐近收敛性及其收敛速率。我们讨论了影响学习过程渐近行为的因素，数值实验也支持了我们的理论发现。同时，我们将结果与现有的域自适应结果以及同分布假设下的经典结果进行了比较。
引用
@article{arxiv.1401.0376,
title = {Generalization Bounds for Representative Domain Adaptation},
author = {Chao Zhang and Lei Zhang and Wei Fan and Jieping Ye},
journal= {arXiv preprint arXiv:1401.0376},
year = {2014}
}
备注
arXiv admin note: substantial text overlap with arXiv:1304.1574