中文

关于 graphical lasso 缺乏对称性的注记

机器学习 2012-07-25 v2 统计计算

摘要

graphical lasso(glasso)是一种广泛使用的快速算法,用于估计稀疏逆协方差矩阵。glasso 求解一个 L1 惩罚最大似然问题,并作为 CRAN 上的一个 R 库提供。glasso 的输出,即正则化协方差矩阵估计和稀疏逆协方差矩阵估计,不仅能识别图模型,还可以作为 PCA、LDA、MANOVA 等多元统计过程的中间输入。glasso 确实产生了一个在对偶意义上求解 L1 惩罚优化问题的协方差矩阵估计;然而,在此优化之后产生逆协方差矩阵估计的方法是不精确的,并且可能产生不对称的估计。当施加的 L1 正则化量较小时,这个问题会加剧,而如果真实的底层逆协方差矩阵不稀疏,则更有可能发生这种情况。对称性的缺乏可能会带来后果。首先,这意味着协方差估计和逆协方差估计在数值上不是互逆的;其次,不对称性可能导致负的或复的特征值,使得许多可能依赖于逆协方差估计的多元统计过程无法使用。我们演示了这个问题,解释了其原因,并提出了可能的补救措施。

关键词

引用

@article{arxiv.1111.2667,
  title  = {A note on the lack of symmetry in the graphical lasso},
  author = {Benjamin T. Rolfs and Bala Rajaratnam},
  journal= {arXiv preprint arXiv:1111.2667},
  year   = {2012}
}

备注

9 pages, 2 figures