结构化变分推断用于社区检测的理论案例研究
统计理论
2020-03-03 v5 统计理论
摘要
平均场变分推断（MFVI）已广泛应用于大规模贝叶斯推断。然而，MFVI 在潜变量上假设乘积分布，常导致具有许多局部最优的目标函数，使优化算法对初始化敏感。在本文中，我们研究了结构化变分推断对于两类随机块模型（Stochastic Blockmodel）的优势。变分分布被构造为在网络节点上具有成对依赖结构。我们证明，在广泛的密度区间和一般随机初始化下，与 MFVI 不同，当模型参数已知、在合理范围内估计或与变分参数联合优化时，由我们的方法估计的类别标签以高概率收敛到真实标签。此外，我们经验性地证明，当图稀疏且信噪比低时，结构化 VI 比 MFVI 更鲁棒。本文朝着理解依赖结构在社区检测变分推断中的重要性迈出了第一步。
引用
@article{arxiv.1907.12203,
title = {A Theoretical Case Study of Structured Variational Inference for Community Detection},
author = {Mingzhang Yin and Y. X. Rachel Wang and Purnamrita Sarkar},
journal= {arXiv preprint arXiv:1907.12203},
year = {2020}
}
备注
AISTATS 2020