中文

面向图稀疏化的相关信息原理

机器学习 2022-06-02 v1 信息论 math.IT

摘要

图稀疏化旨在减少图的边数同时保持其结构性质。本文中,我们受相关信息原理(PRI)启发,提出了首个通用且有效的图稀疏化信息论表述。为此,我们将 PRI 从标准标量随机变量设定扩展至结构化数据(即图)。我们的 Graph-PRI 目标通过对图拉普拉斯矩阵操作实现,这得益于将子图的图拉普拉斯矩阵用稀疏边选择向量 w\mathbf{w} 表示。我们提供了理论与实证依据以证明 Graph-PRI 方法的有效性。我们还分析了其在若干特殊情况下的解析解。最后,我们展示了三个代表性真实应用,即图稀疏化、图正则化多任务学习与医学影像衍生的脑网络分类,以证明相较主流稀疏化技术,我们方法的有效性、通用性以及增强的可解释性。Graph-PRI 的代码见 https://github.com/SJYuCNEL/PRI-Graphs

关键词

引用

@article{arxiv.2206.00118,
  title  = {Principle of Relevant Information for Graph Sparsification},
  author = {Shujian Yu and Francesco Alesiani and Wenzhe Yin and Robert Jenssen and Jose C. Principe},
  journal= {arXiv preprint arXiv:2206.00118},
  year   = {2022}
}

备注

accepted by UAI-22