社区检测中最小描述长度的热力学
物理与社会
2018-06-20 v1 无序系统与神经网络
社会与信息网络
数据分析、统计与概率
摘要
现代统计建模是对传统物理学方法的重要补充,在传统方法中,复杂系统通过极简的理想化模型来研究。最小描述长度(MDL)是一种有原则的统计建模方法,它将奥卡姆剃刀与信息论相结合,以选择能提供最简洁描述的模型。在本工作中,我们引入玻尔兹曼 MDL(BMDL),这是一种将 MDL 原理形式化的方法,其参数化复杂度可方便地表述为一个人造热力学系统的自由能。借此,我们利用统计力学丰富的理论与技术背景,从信息论视角揭示相变及其他热力学概念在统计建模问题上的关键重要性。例如,我们给出了信息论依据,说明当该形式体系用于数据建模时,为何可用高温级数展开来计算 BMDL 的系统性近似;以及当 BMDL 用于模型建模时,为何统计显著的模型选择可由有序相来识别。为检验所引入的形式体系,我们计算了复杂网络社区检测问题的 BMDL 近似,由此得到了 Girvan-Newman(GN)模块度与 Zhang-Moore(ZM)社区检测方法的基于 MDL 的原则性推导。在此,通过针对合成与真实网络的分析估计和数值实验,我们发现基于 BMDL 的 GN 模块度修正项提升了所检测社区的质量,并且我们还找到了一个信息论依据,说明为何 ZM 估计网络社区数目的准则优于诸如自由能裸最小化等替代方法。
引用
@article{arxiv.1806.07005,
title = {Thermodynamics of the Minimum Description Length on Community Detection},
author = {Juan Ignacio Perotti and Claudio Juan Tessone and Aaron Clauset and Guido Caldarelli},
journal= {arXiv preprint arXiv:1806.07005},
year = {2018}
}
备注
13 pages and 4 figures