Nyström核主成分分析的统计最优性与计算效率
机器学习
2021-05-20 v1 机器学习
统计理论
统计理论
摘要
核方法为从简单线性方法发展非线性学习算法提供了优雅框架。尽管这些方法在若干真实数据应用中具有优越的经验性能，其在大样本情形下的实用性受限于显著的计算负担。文献中已提出各种近似方案以缓解这些计算问题，且近似核机被证明保留了经验性能。然而，这些近似核机的理论性质较少被理解。本工作中，我们从理论上研究Nyström近似核主成分分析（KPCA）中计算复杂度与统计精度之间的权衡，其中我们表明Nyström近似KPCA在保持计算优势的同时，匹配（非近似）KPCA的统计性能。此外，我们表明当应用于KPCA时，Nyström近似KPCA在统计表现上优于另一种流行近似方案——随机特征近似。
引用
@article{arxiv.2105.08875,
title = {Statistical Optimality and Computational Efficiency of Nystr\"om Kernel PCA},
author = {Nicholas Sterge and Bharath Sriperumbudur},
journal= {arXiv preprint arXiv:2105.08875},
year = {2021}
}
备注
26 pages