面向结构化节点分类的扩散概率模型
机器学习
2023-06-21 v5
摘要
本文研究图上的结构化节点分类问题,其中预测需考虑节点标签之间的依赖关系。我们特别关注部分标记图上的该问题,此时利用已知标签中的信息来预测未知标签至关重要。为此,我们提出了一种利用扩散概率模型解决结构化节点分类的新框架(DPM-SNC)。我们框架的核心在于 DPM-SNC 具备以下卓越能力:(a) 通过具有表现力的反向扩散过程学习标签上的联合分布;(b) 利用流形约束采样基于已知标签进行预测。由于 DPMs 缺乏针对部分标记数据的训练算法,我们设计了一种新的训练算法来应用 DPMs,最大化一个新的变分下界。我们还从理论上分析了 DPMs 如何通过增强 GNNs 的表达能力来裨益节点分类,为此提出了 AGG-WL,其严格强于经典的 1-WL 检验。我们在多种场景下广泛验证了 DPM-SNC 的优越性,包括部分标记图上的转导设定、归纳设定以及无标记图。
引用
@article{arxiv.2302.10506,
title = {Diffusion Probabilistic Models for Structured Node Classification},
author = {Hyosoon Jang and Seonghyun Park and Sangwoo Mo and Sungsoo Ahn},
journal= {arXiv preprint arXiv:2302.10506},
year = {2023}
}