关于最小迹因子分析——老调新弹
机器学习
2024-02-06 v1 机器学习
统计方法学
摘要
降维方法，如主成分分析（PCA）和因子分析，是数据科学中许多问题的核心。然而，对于具有显著异方差噪声的数据，寻找稳健的低维近似存在严重且众所周知的挑战。本文引入了最小迹因子分析（MTFA）的一种松弛版本，这是一种凸优化方法，其根源可追溯至 Ledermann 在 1940 年的工作。这种松弛特别能有效避免对异方差扰动的过拟合，并解决了因子分析中常被提及的 Heywood 情形以及现有谱方法近期被发现的“病态诅咒”。我们为所得低秩子空间的准确性以及计算该矩阵的所提算法的收敛速率提供了理论保证。我们发展了其与现有方法（包括 HeteroPCA、Lasso 和 Soft-Impute）的诸多有趣联系，以填补低秩矩阵估计庞大文献中的重要空白。数值实验将我们的结果与近期几种处理异方差噪声的方法进行了基准比较。
引用
@article{arxiv.2402.02459,
title = {On Minimum Trace Factor Analysis -- An Old Song Sung to a New Tune},
author = {C. Li and A. Shkolnik},
journal= {arXiv preprint arXiv:2402.02459},
year = {2024}
}