中文

关于不精确 Hotelling 缩减法在主成分分析中的误差传播

机器学习 2024-05-30 v2 最优化与控制 机器学习

摘要

主成分分析(PCA)旨在寻找由所谓主成分张成的子空间,以最佳表示数据集中的方差。缩减法是一种流行的元算法,它按顺序寻找单个主成分,从最重要的开始,逐步到较不重要的。然而,随着缩减的进行,由于顺序性质,来自主成分不精确估计的数值误差会传播。本文从数学上刻画了不精确 Hotelling 缩减法的误差传播。我们考虑两种情形:i)i) 寻找主导特征向量的子程序是抽象的,可代表各种算法;以及 ii)ii) 使用幂迭代作为子程序。在后一种情况下,来自幂迭代的额外方向信息使我们能够获得比与子程序无关情形更紧的误差界。对于两种情形,我们都明确刻画了误差如何进展并影响后续的主成分估计。

关键词

引用

@article{arxiv.2310.04283,
  title  = {On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis},
  author = {Fangshuo Liao and Junhyung Lyle Kim and Cruz Barnum and Anastasios Kyrillidis},
  journal= {arXiv preprint arXiv:2310.04283},
  year   = {2024}
}

备注

ICML2024