用于快速半监督学习的相关随机特征
机器学习
2013-11-06 v2 机器学习
摘要
本文提出了相关 Nystrom 视图(Correlated Nystrom Views, XNV),一种用于回归和分类的快速半监督算法。该算法借鉴了两个主要思想。首先,它生成两个由计算成本低的随机特征组成的视图。其次,XNV 在无标签数据上应用基于典型相关分析(Canonical Correlation Analysis, CCA)的多视图回归,以使回归偏向有用的特征。研究表明,如果视图包含准确的估计量,CCA 回归可以在偏差最小增加的情况下显著降低方差。随机视图的合理性得到了近期理论和实证工作的支持,这些工作表明带有随机特征的回归能紧密近似核回归,意味着随机视图有望包含准确的估计量。我们表明,XNV 始终优于最先进的半监督学习算法:在各种真实世界数据集上显著提高预测性能并降低性能变异性,同时将运行时间减少了数个数量级。
引用
@article{arxiv.1306.5554,
title = {Correlated random features for fast semi-supervised learning},
author = {Brian McWilliams and David Balduzzi and Joachim M. Buhmann},
journal= {arXiv preprint arXiv:1306.5554},
year = {2013}
}
备注
15 pages, 3 figures, 6 tables