基于 Nyström 型子采样的流形正则化
机器学习
2024-04-09 v1 机器学习
摘要
本文研究用于大规模核方法的 Nyström 型子采样,以降低大数据的计算复杂度。我们讨论了基于 Nyström 型子采用的多惩罚正则化方案,该方案受启发于已被充分研究的流形正则化方案。我们在向量值函数设定下的一般源条件下,发展了多惩罚最小二乘正则化方案的理论分析,因此该结果也可应用于多任务学习问题。利用有效维度的概念,针对适当的子采样规模,我们实现了多惩罚正则化的最优极小化极大收敛速率。我们讨论了一种基于线性函数策略的聚合方法,以结合多种 Nyström 近似。最后,我们在用于多类图像分类的 Caltech-101 数据集和用于入侵检测问题的 NSL-KDD 基准数据集上,展示了基于 Nyström 型子采样的多惩罚正则化方法的性能。
引用
@article{arxiv.1710.04872,
title = {Manifold regularization based on Nystr{\"o}m type subsampling},
author = {Abhishake Rastogi and Sivananthan Sampath},
journal= {arXiv preprint arXiv:1710.04872},
year = {2024}
}