高维数据集下对称不定核矩阵的快速确定性逼近
数值分析
2021-12-30 v2 数值分析
摘要
核方法在机器学习的各种应用中频繁使用。对于大规模高维应用，核方法的成功依赖于操作某些大型稠密核矩阵 K 的能力。大量文献致力于研究对称半正定（SPSD）核，其中 Nystrom 方法通过选择地标点计算核矩阵的低秩逼近。在本文中，我们研究用于逼近对称不定核矩阵以及 SPSD 核矩阵的 Nystrom 方法。我们首先为一般对称核矩阵建立理论框架，为地标点的选择提供理论指导。然后我们利用差异理论提出锚网方法，以最优复杂度计算精确的 Nystrom 逼近。锚网方法完全在数据集上操作，不需要访问 或其矩阵-向量乘积。在各类核（不定和 SPSD 的）以及机器学习数据集上的结果表明，与最先进的 Nystrom 方法相比，新方法以更低的计算成本实现了更好的精度和稳定性。
引用
@article{arxiv.2102.05215,
title = {Fast deterministic approximation of symmetric indefinite kernel matrices with high dimensional datasets},
author = {Difeng Cai and James Nagy and Yuanzhe Xi},
journal= {arXiv preprint arXiv:2102.05215},
year = {2021}
}
备注
27 pages, 16 figures