FDGATII：结合初始残差与恒等映射的快速动态图注意力模型
机器学习
2021-10-27 v2
摘要
尽管图神经网络在多个领域已广受欢迎，图结构输入仍因（a）过平滑、（b）噪声邻居（异配性）和（c）悬停动画问题而构成主要挑战。为同时解决所有这些难题，我们受注意力机制聚焦选择性信息能力的启发，并辅以两种特征保持机制，提出了一种新颖的图神经网络 FDGATII。FDGATII 将初始残差与恒等映射同更具表达力的动态自注意力相结合，以处理异配数据集中普遍存在的来自邻域的噪声。通过使用稀疏动态注意力，FDGATII 在设计上天然可并行化，且运算高效；因此理论上能够轻松扩展到任意规模的图。我们的方法已在 7 个数据集上进行了广泛评估。我们表明，FDGATII 在全监督任务的准确率和性能上优于基于 GAT 和 GCN 的基准，在无需任何特定领域图预处理的情况下于 Chameleon 和 Cornell 数据集取得 SOTA 结果，并展示了其通用性与公平性。
引用
@article{arxiv.2110.11464,
title = {FDGATII : Fast Dynamic Graph Attention with Initial Residual and Identity Mapping},
author = {Gayan K. Kulatilleke and Marius Portmann and Ryan Ko and Shekhar S. Chandra},
journal= {arXiv preprint arXiv:2110.11464},
year = {2021}
}
备注
10 pages, 4 figures. Reworded section 2.1 with references. Reworded argument in section 2.3 para 2