中文

稀疏贝叶斯模型在高维精度矩阵估计中的浓度现象:以马松骨先验为例

统计理论 2025-01-24 v2 机器学习 统计理论

摘要

精度矩阵在社交网络、神经科学和经济学等诸多领域至为重要,代表了高斯图模型(GGM)的边缘结构,其中精度矩阵的非对角位置为零表示节点之间的条件独立性。在维数 p 超过样本量 n 且矩阵稀疏的高维情形下,类似 graphical Lasso、graphical SCAD 和 CLIME 等方法在估计 GGM 时备受推崇。虽然频率方法已广泛研究,但针对(非结构化)稀疏精度矩阵的贝叶斯方法仍鲜有探索。采用全局-局部马松骨先验的图形化马松骨估计 \cite{li2019graphical} 在实证实验中表现优异,但针对使用收缩先验进行稀疏精度矩阵估计的理论工作仍有限。本文通过为在高维情形下完全指定马松骨先验的受温后验提供浓度结果,填补了上述空白。此外,我们还提供了针对模型误规定的新型理论结果,给出后验的一般性 oracle 不等式。随后进行一组简洁的模拟实验,以检验理论发现的有效性。

关键词

引用

@article{arxiv.2406.14269,
  title  = {Concentration of a sparse Bayesian model with Horseshoe prior in estimating high-dimensional precision matrix},
  author = {The Tien Mai},
  journal= {arXiv preprint arXiv:2406.14269},
  year   = {2025}
}