基于成对相似性正则化的迁移回归
机器学习
2017-12-27 v1
摘要
迁移学习方法解决如下情形:来自“目标”问题的有标签训练数据很少,但来自相关“源”域的大量训练数据可用。然而,绝大多数迁移学习方法针对源和目标任务预测函数几乎相同的简单设定而设计,限制了迁移学习方法在真实世界数据上的适用性。我们提出了一种新颖的、更弱的源域性质,即使源和目标预测函数发散时也可迁移。我们的方法假设源和目标函数共享成对相似性性质:若源函数在一对样本上做出相似预测,则目标函数亦如此。我们提出成对相似性正则化迁移(Pairwise Similarity Regularization Transfer),一种灵活的基于图的正则化框架,可将此建模假设融入标准监督学习算法。我们展示了用户如何以空间连续性和成对“相似性约束”的形式将领域知识编码进我们的正则化器,以及如何使用 Nystrom 近似将方法扩展到大型数据集。最后,我们在真实和合成数据集上给出正面与负面结果,并讨论我们的成对相似性迁移假设在何种实际情况下成立。
引用
@article{arxiv.1712.08855,
title = {Transfer Regression via Pairwise Similarity Regularization},
author = {Aubrey Gress and Ian Davidson},
journal= {arXiv preprint arXiv:1712.08855},
year = {2017}
}