ReDiSC:面向结构化预测的重参数化掩码扩散模型
机器学习
2025-07-22 v1
摘要
近年来,图神经网络(GNN)在节点分类任务中取得了非凡的成功。尽管GNN本质上编码了特定的归纳偏置(例如,作为低通或高通滤波器),但大多数现有方法在优化目标中隐式假设节点标签在条件 Independence。虽然这种假设适用于图像识别等传统分类任务,但与节点标签在图中即使在条件化图结构后仍保持相关性的直观观察相矛盾。为实现结构化预测,本文提出ReDiSC,即Reparameterized masked Diffusion model for Structured node Classification。ReDiSC通过重参数化掩码扩散模型估计节点标签的联合分布,通过变分期望最大化(EM)框架进行学习。我们的理论分析显示,ReDiSC在E步中相较于DPM-SNC(一种依赖于连续域中受流形约束的扩散模型的前沿模型)具有效率优势。同时,我们明确将ReDiSC的M步目标与流行的GNN和标签传播混合方法关联。广泛的实验结果表明,ReDiSC在各种大小的 homophilic 和 heterophilic 图上,相较于前沿GNN、标签传播和扩散基线方法,实现了优异或高度竞争的性能。值得注意的是,ReDiSC能够有效扩展到大规模数据集上的大规模实验,这些数据集以前的结构化扩散方法由于计算限制而无法处理,凸显了其在结构化节点分类任务中显著的实际优势。
引用
@article{arxiv.2507.14484,
title = {ReDiSC: A Reparameterized Masked Diffusion Model for Scalable Node Classification with Structured Predictions},
author = {Yule Li and Yifeng Lu and Zhen Wang and Zhewei Wei and Yaliang Li and Bolin Ding},
journal= {arXiv preprint arXiv:2507.14484},
year = {2025}
}