中文

稀疏主成分分析的最优解

人工智能 2011-11-10 v4 机器学习

摘要

给定样本协方差矩阵,我们研究在约束线性组合中非零系数数量的前提下,最大化输入变量所解释方差的问题。这被称为稀疏主成分分析,在机器学习和工程中有着广泛的应用。我们为此问题构建了一种新的半定松弛形式,并推导出一套贪心算法,该算法能针对所有目标非零系数数量计算出一组完整的优质解,总复杂度为 O(n3)O(n^3),其中 nn 为变量数量。随后,我们利用相同的松弛形式推导了解的全局最优性充分条件,该条件可针对每种模式在 O(n3)O(n^3) 时间内进行检验。我们讨论了其在子集选择和稀疏恢复中的应用,并通过人工示例和生物数据表明,我们的算法在许多情况下确实能提供全局最优解。

关键词

引用

@article{arxiv.0707.0705,
  title  = {Optimal Solutions for Sparse Principal Component Analysis},
  author = {Alexandre d'Aspremont and Francis Bach and Laurent El Ghaoui},
  journal= {arXiv preprint arXiv:0707.0705},
  year   = {2011}
}

评论

Revised journal version. More efficient optimality conditions and new examples in subset selection and sparse recovery. Original version is in ICML proceedings

R2 v1 2026-06-29T01:39:03.078Z