高维径向基函数核的数值秩
数值分析
2020-10-22 v3 数值分析
摘要
低秩近似是降低涉及大规模核矩阵算法高计算开销的常用方法。低秩方法的成功取决于核矩阵的矩阵秩，且在实践中，这些方法即使对于高维数据集也很有效。它们的实际成功促使我们分析函数秩，即矩阵秩的上界。在本文中，我们考虑了径向基函数 (RBF)，用可分乘积的有限和这种低秩表示来近似 RBF 核，并为此类近似提供了函数秩和 误差的显式上界。我们的三个主要结果如下。首先，对于固定精度，RBF 的函数秩在最坏情况下随数据维度多项式增长。其次，以函数平滑度和域直径的形式导出了 范数下低秩近似的精确误差界。最后，观察并分析了 RBF 核矩阵奇异值大小中的分组模式，并通过核低秩表示中展开项的分组对其进行了解释。实验结果验证了理论结果。
引用
@article{arxiv.1706.07883,
title = {On the numerical rank of radial basis function kernels in high dimension},
author = {Ruoxi Wang and Yingzhou Li and Eric Darve},
journal= {arXiv preprint arXiv:1706.07883},
year = {2020}
}