再生核 Krein 空间中正则化最小二乘的分析
机器学习
2020-11-26 v2 机器学习
统计理论
统计理论
摘要
在本文中，我们研究再生核 Krein 空间（RKKS）中具有不定核的正则化最小二乘的渐近性质。通过向此类非凸正则化风险最小化问题引入有界超球约束，我们从理论上证明该问题在球面上具有闭式全局最优解，这使得在 RKKS 中的逼近分析可行。针对由不定内积诱导的原始正则化子，我们修正传统的误差分解技术，基于矩阵扰动理论证明所引入假设误差的收敛结果，并导出该 RKKS 中正则化回归问题的学习率。在某些条件下，RKKS 中导出的学习率与再生核 Hilbert 空间（RKHS）中的相同，这实际上是 RKKS 中正则化学习算法逼近分析的首项工作。
引用
@article{arxiv.2006.01073,
title = {Analysis of Regularized Least Squares in Reproducing Kernel Krein Spaces},
author = {Fanghui Liu and Lei Shi and Xiaolin Huang and Jie Yang and Johan A. K. Suykens},
journal= {arXiv preprint arXiv:2006.01073},
year = {2020}
}
备注
24 pages, 2 figures