从有限样本矩阵估计核积分算子的谱矩
机器学习
2025-02-11 v3 谱理论
统计理论
机器学习
统计理论
摘要
在输入数据分布的样本特征结构分析受限于输入和特征数量的有限测量时,是一个具有挑战性的问题。传统方法通常依赖于从有限测量矩阵中推导的样本协方差矩阵的特征谱;然而,这些谱对测量矩阵的大小敏感,导致偏差性的见解。在本文中,我们引入一种新算法,提供从有限采样测量矩阵中对核积分算子在无限输入和特征极限下的谱矩的无偏估计。该方法基于动态编程,高效且能够估计算子谱的矩。我们在径向基函数 (RBF) 核上演示了估计器的准确性,突出其与理论谱的一致性。此外,我们展示了该方法在理解神经网络中学习表示几何方面的实际用途和鲁棒性。
引用
@article{arxiv.2410.17998,
title = {Estimating the Spectral Moments of the Kernel Integral Operator from Finite Sample Matrices},
author = {Chanwoo Chun and SueYeon Chung and Daniel D. Lee},
journal= {arXiv preprint arXiv:2410.17998},
year = {2025}
}
备注
Accepted for publication in the Proceedings of the 28th International Conference on Artificial Intelligence and Statistics (AISTATS) 2025