增强GNN的绿色GRASS：编码、重构与注意力
机器学习
2025-03-18 v5 人工智能
神经与进化计算
摘要
图神经网络（Graph Neural Networks, GNNs）已成为处理图结构数据的最重要机器学习工具。本文我们探索图编码、图重构和图注意力的协同组合，提出Graph Attention with Stochastic Structures（GRASS），一种新颖的GNN架构。GRASS利用相对随机漫步概率（Relative Random Walk Probabilities, RRWP）编码和一种新型分解变体（Decomposed RRWP, D-RRWP）高效地捕获结构信息。它通过在输入图上叠加随机规则图来重构输入图，以增强远距离信息传播。它还采用一种专为图结构数据设计的新型加法注意力机制。我们的经验评估表明，GRASS在多个基准数据集上实现了最先进的性能，包括在ZINC数据集上平均绝对误差降低了20.3%。
引用
@article{arxiv.2407.05649,
title = {Greener GRASS: Enhancing GNNs with Encoding, Rewiring, and Attention},
author = {Tongzhou Liao and Barnabás Póczos},
journal= {arXiv preprint arXiv:2407.05649},
year = {2025}
}
备注
Published as a conference paper at ICLR 2025