用于超图学习的免训练消息传递
机器学习
2025-03-12 v6 人工智能
信号处理
机器学习
摘要
超图对于建模真实世界数据中的高阶交互至关重要。超图神经网络(HNN)通过消息传递有效利用这些结构,为节点分类等各种下游任务生成信息丰富的节点特征。然而,现有HNN中的消息传递模块通常需要计算密集的训练过程,限制了其实际应用。为了应对这一挑战,我们提出了一种替代方法,将超图结构信息的使用与模型学习阶段解耦。这导致了一种新颖的免训练消息传递模块,名为TF-MP-Module,可以在数据预处理阶段预先计算,从而减少计算负担。我们将配备TF-MP-Module的超图神经网络称为TF-HNN。我们从理论上支持TF-HNN的效率和有效性,表明:1)与现有HNN相比,它更具训练效率;2)它利用与现有HNN相同数量的信息进行节点特征生成;3)在使用长程交互时,它对过度平滑问题具有鲁棒性。基于七个真实世界超图基准的节点分类和超链接预测实验表明,与最先进的HNN相比,TF-HNN表现出竞争性的性能和优越的训练效率。具体来说,在大规模基准Trivago上,TF-HNN的节点分类准确率比最佳基线高出10%,而训练时间仅为该基线的1%。
引用
@article{arxiv.2402.05569,
title = {Training-Free Message Passing for Learning on Hypergraphs},
author = {Bohan Tang and Zexi Liu and Keyue Jiang and Siheng Chen and Xiaowen Dong},
journal= {arXiv preprint arXiv:2402.05569},
year = {2025}
}