中文

多簇随机块模型中的检测:可达性猜想的证明、无环BP与信息-计算鸿沟

概率论 2016-09-16 v4 计算复杂性 信息论 机器学习 社会与信息网络 math.IT

摘要

在一篇开启随机块模型现代研究的论文中,Decelle等人(由Mossel等人支持)提出了如下猜想:记kk为平衡社区的数目,a/na/n为社区内连接概率,b/nb/n为跨社区连接概率,并设SNR=(ab)2/(k(a+(k1)b)\mathrm{SNR}=(a-b)^2/(k(a+(k-1)b);对于任意k2k \geq 2,当SNR>1\mathrm{SNR}>1(KS阈值)时,可以高效检测社区;而对于k4k\geq 4,在某些SNR<1\mathrm{SNR}<1时可通过信息论方法检测社区。Massoulié、Mossel等人和Bordenave等人成功证明了对于k=2k=2 KS阈值可高效达到,而Mossel等人证明了对于k=2k=2无法在信息论上跨越该阈值。上述猜想对于k3k \geq 3一直未解。本文证明了该猜想,并将高效检测进一步推广到非对称SBM,给出了检测和KS阈值的广义概念。在高效部分,我们开发了线性化无环置信传播(ABP)算法,并证明能在时间O(nlogn)O(n \log n)内检测任意kk直至KS阈值的社区。实现这一点需要证明ABP在存在环的情况下的最优性,这是消息传递算法的一个挑战。论文进一步将ABP与带有广义阶数非回溯算子的幂迭代方法相联系,形式化了消息传递与谱方法之间的相互作用。对于信息论(IT)部分,一个采样典型聚类的非高效算法被证明能在k=4k=4时打破KS阈值。所产生的鸿沟在某些情况下很大;若a=0a=0,KS阈值读作bk2b \gtrsim k^2而IT界读作bkln(k)b \gtrsim k \ln(k),使得SBM成为信息-计算鸿沟的良好研究案例。

关键词

引用

@article{arxiv.1512.09080,
  title  = {Detection in the stochastic block model with multiple clusters: proof of the achievability conjectures, acyclic BP, and the information-computation gap},
  author = {Emmanuel Abbe and Colin Sandon},
  journal= {arXiv preprint arXiv:1512.09080},
  year   = {2016}
}

备注

Extended version with further details on the algorithms and methods