图酉消息传递
机器学习
2024-03-19 v1 人工智能
摘要
消息传递机制促成了 GNN 在各种应用中的成功,但也带来了过挤压问题。近期工作通过使用重连技术改善图谱来对抗过挤压,这破坏了图中的结构偏差,且在过挤压度量方面对过挤压的改善有限。受酉 RNN 启发,我们提出图酉消息传递(GUMP),通过应用酉邻接矩阵进行消息传递来缓解 GNN 中的过挤压问题。为设计 GUMP,首先提出一种变换使一般图具有酉邻接矩阵并保持其结构偏差。然后,通过酉投影算法获得酉邻接矩阵,该算法利用酉邻接矩阵的内在结构实现,并允许 GUMP 具有置换等变性。实验结果表明了 GUMP 在提升各种图学习任务性能方面的有效性。
引用
@article{arxiv.2403.11199,
title = {Graph Unitary Message Passing},
author = {Haiquan Qiu and Yatao Bian and Quanming Yao},
journal= {arXiv preprint arXiv:2403.11199},
year = {2024}
}
备注
15 pages, 3 figures