Nyström方法的快速DPP采样及其在核方法中的应用
机器学习
2016-05-31 v2
摘要
Nyström方法长期以来因扩展核方法而广受欢迎。其理论保证和经验性能关键依赖于所选地标的质量。我们研究使用行列式点过程(DPPs)——一种允许可处理的多样化样本生成的离散概率模型——进行Nyström的地标选择。我们证明通过DPPs选择的地标保证了近似误差的界限;随后,我们分析了其对核岭回归的影响。与先前由于DPP采样三次复杂度而产生的保留意见相反,我们表明(在特定条件下)马尔可夫链DPP采样仅需要关于数据大小的线性时间。我们提出了若干支持理论分析的经验结果,并展示了基于DPP的地标选择相较于现有方法的优越性能。
引用
@article{arxiv.1603.06052,
title = {Fast DPP Sampling for Nystr\"om with Application to Kernel Methods},
author = {Chengtao Li and Stefanie Jegelka and Suvrit Sra},
journal= {arXiv preprint arXiv:1603.06052},
year = {2016}
}