基于转换函数的假设迁移学习
机器学习
2017-11-07 v4 机器学习
摘要
我们考虑假设迁移学习(HTL)问题,其中将在源域上训练的假设纳入目标域的学习过程中。现有的理论分析要么仅研究特定算法,要么仅给出泛化误差的上界而未给出超额风险的上界。本文通过一种新颖的转换函数概念,为 HTL 提出了一个统一的算法相关框架,该概念刻画了源域与目标域之间的关系。我们对该框架进行了通用风险分析,特别地,我们首次证明,如果两个域是相关的,HTL 在核平滑和核岭回归中的超额风险收敛速率快于经典非迁移学习设置下的收敛速率。在真实世界数据上的实验证明了我们框架的有效性。
引用
@article{arxiv.1612.01020,
title = {Hypothesis Transfer Learning via Transformation Functions},
author = {Simon Shaolei Du and Jayanth Koushik and Aarti Singh and Barnabas Poczos},
journal= {arXiv preprint arXiv:1612.01020},
year = {2017}
}
备注
Accepted by NIPS 2017