求解稀疏广义特征值问题的无逆截断 Rayleigh-Ritz 方法
机器学习
2020-03-25 v1 机器学习
摘要
本文考虑稀疏广义特征值问题 (SGEP),其目标是找到具有至多 个非零项的主导特征向量。SGEP 自然出现在机器学习、统计与科学计算的许多应用中,例如稀疏主成分分析 (SPCA)、稀疏判别分析 (SDA) 与稀疏典型相关分析 (SCCA)。本文致力于开发一种名为无逆截断 Rayleigh-Ritz 方法 (IFTRR) 的三阶段算法以高效求解 SGEP。在 IFTRR 的每次迭代中,仅需少量矩阵-向量乘积。这使 IFTRR 非常适用于大规模问题。特别地,提出了一种新的截断策略,能够有效找到主导特征向量的支撑集。理论结果用于解释 IFTRR 为何表现良好。数值模拟展示了 IFTRR 的优势。
引用
@article{arxiv.2003.10897,
title = {An Inverse-free Truncated Rayleigh-Ritz Method for Sparse Generalized Eigenvalue Problem},
author = {Yunfeng Cai and Ping Li},
journal= {arXiv preprint arXiv:2003.10897},
year = {2020}
}