当随机初始化有帮助时:变分推断用于社区检测的研究
统计理论
2019-05-21 v2 统计理论
摘要
变分逼近近来已广泛应用于大规模贝叶斯推断,其中最简单的一类通过施加平均场假设来逼近复杂的潜结构。尽管平均场具有计算可扩展性,对其损失函数曲面以及优化损失的迭代更新收敛行为的研究尚远不完善。本文关注具有相等类大小的简单两类随机块模型(SBM)的社区检测问题。使用批量坐标上升(BCAVI)进行更新,我们展示了不同初始化下的不同收敛行为。当参数已知或在合理范围内估计并固定时,我们刻画了初始化收敛到真实值的充分条件。另一方面,当参数需迭代估计时,随机初始化会收敛到无信息的局部最优。
引用
@article{arxiv.1905.06661,
title = {When random initializations help: a study of variational inference for community detection},
author = {Purnamrita Sarkar and Y. X. Rachel Wang and Soumendu Sundar Mukherjee},
journal= {arXiv preprint arXiv:1905.06661},
year = {2019}
}
备注
32 pages, 5 figures