稀疏主成分分析的最优解
人工智能
2011-11-10 v4 机器学习
摘要
给定样本协方差矩阵,我们研究在约束线性组合中非零系数数量的前提下,最大化输入变量所解释方差的问题。这被称为稀疏主成分分析,在机器学习和工程中有着广泛的应用。我们为此问题构建了一种新的半定松弛形式,并推导出一套贪心算法,该算法能针对所有目标非零系数数量计算出一组完整的优质解,总复杂度为 ,其中 为变量数量。随后,我们利用相同的松弛形式推导了解的全局最优性充分条件,该条件可针对每种模式在 时间内进行检验。我们讨论了其在子集选择和稀疏恢复中的应用,并通过人工示例和生物数据表明,我们的算法在许多情况下确实能提供全局最优解。
引用
@article{arxiv.0707.0705,
title = {Optimal Solutions for Sparse Principal Component Analysis},
author = {Alexandre d'Aspremont and Francis Bach and Laurent El Ghaoui},
journal= {arXiv preprint arXiv:0707.0705},
year = {2011}
}
评论
Revised journal version. More efficient optimality conditions and new examples in subset selection and sparse recovery. Original version is in ICML proceedings