基于软到硬标签迁移的带特权信息高斯过程分类
机器学习
2018-02-13 v1
摘要
利用特权信息学习是一种吸引人的问题设定，有助于现实世界中的许多学习场景。带特权信息的高斯过程分类（GPC）的先进方法是 GPC+，其将特权信息纳入似然的噪声项中。GPC+ 的缺陷在于需要数值积分来计算潜函数的后验分布，这极为耗时。为克服该限制，我们提出一种基于高斯过程的带特权信息新型分类方法，称为“软标签迁移高斯过程（SLT-GP）”。我们的基本思想是构建另一个预测由特权信息获得的软标签（连续值）的学习任务，并从该任务向预测硬标签的目标任务进行迁移学习。我们推导了所提方法的 PAC-Bayesian 界，证明了通过经验贝叶斯方法优化超参数的合理性。我们还通过实验展示了所提方法相对于 GPC 与 GPC+ 的效用。
引用
@article{arxiv.1802.03877,
title = {Gaussian Process Classification with Privileged Information by Soft-to-Hard Labeling Transfer},
author = {Ryosuke Kamesawa and Issei Sato and Masashi Sugiyama},
journal= {arXiv preprint arXiv:1802.03877},
year = {2018}
}