高维数据协方差逆估计的线性时空复杂度：针对 Riccati 方程与稀疏模型的谱方法

我们提出了在参数上施加高斯 ($\ell_2^2$) 先验来学习高斯图模型的最大似然估计方法。这与常用于鼓励稀疏性的拉普拉斯 ($\ell_1$) 先验形成对比。我们证明了我们的优化问题导出了一个 Riccati 矩阵方程，该方程具有闭式解。我们提出了一种高效的算法，对训练数据执行奇异值分解。对于 $N$ 个变量和 $T$ 个样本，该算法的时间复杂度为 $O(NT^2)$，空间复杂度为 $O(NT)$。我们的方法专为高维问题 ($N \gg T$) 量身定制，在此类问题中，促进稀疏性的方法变得难以处理。此外，我们的算法不是针对特定的正则化参数获得单一解，而是找到整个解路径。我们证明了该方法在尖峰协方差模型下具有对数样本复杂度。我们还提出了对稠密解进行稀疏化的方法，并提供了可证明的性能保证。我们提供了使用所学模型的技术，例如移除不重要的变量、计算似然度和条件分布。最后，我们在多个基因表达数据集上展示了有希望的结果。