中文

基于 Nyström 型子采样的流形正则化

机器学习 2024-04-09 v1 机器学习

摘要

本文研究用于大规模核方法的 Nyström 型子采样,以降低大数据的计算复杂度。我们讨论了基于 Nyström 型子采用的多惩罚正则化方案,该方案受启发于已被充分研究的流形正则化方案。我们在向量值函数设定下的一般源条件下,发展了多惩罚最小二乘正则化方案的理论分析,因此该结果也可应用于多任务学习问题。利用有效维度的概念,针对适当的子采样规模,我们实现了多惩罚正则化的最优极小化极大收敛速率。我们讨论了一种基于线性函数策略的聚合方法,以结合多种 Nyström 近似。最后,我们在用于多类图像分类的 Caltech-101 数据集和用于入侵检测问题的 NSL-KDD 基准数据集上,展示了基于 Nyström 型子采样的多惩罚正则化方法的性能。

关键词

引用

@article{arxiv.1710.04872,
  title  = {Manifold regularization based on Nystr{\"o}m type subsampling},
  author = {Abhishake Rastogi and Sivananthan Sampath},
  journal= {arXiv preprint arXiv:1710.04872},
  year   = {2024}
}