社区检测中平均场变分推断的理论与计算保证
统计理论
2017-12-12 v3 社会与信息网络
机器学习
统计理论
摘要
平均场变分贝叶斯方法在统计学与机器学习中日益流行。其迭代坐标上升变分推断算法已广泛应用于大规模贝叶斯推断。近期综述见 Blei 等 (2017)。尽管平均场方法流行，其基础理论依据却极少。据我们所知，该迭代算法尚未在任何高维复杂模型中被研究。本文在随机块模型下研究社区检测的平均场方法。对一种迭代批量坐标上升变分推断算法，我们证明其具有线性收敛速率，并在 次迭代内收敛到极小极大速率。这补充了 Bickel 等 (2013) 的结果，他们研究平均场变分贝叶斯的全局极小并得到全局模型参数的渐近正态估计。此外，我们对 Gibbs 采样及一种计算极大似然估计的迭代过程获得类似最优结果，这本身具独立意义。
引用
@article{arxiv.1710.11268,
title = {Theoretical and Computational Guarantees of Mean Field Variational Inference for Community Detection},
author = {Anderson Y. Zhang and Harrison H. Zhou},
journal= {arXiv preprint arXiv:1710.11268},
year = {2017}
}