脉冲 GAT：通过脉冲神经网络学习图注意力
神经与进化计算
2022-09-28 v1 机器学习
摘要
图注意力网络（GATs）已被深入研究并广泛用于图数据学习任务。现有 GATs 通常采用自注意力机制进行图边注意力学习，计算代价高昂。众所周知，脉冲神经网络（SNNs）可将输入信号数据转换为离散脉冲序列来进行低成本计算，且可返回稀疏输出。受 SNNs 优点的启发，本文提出一种新颖的图脉冲注意力网络（GSAT）用于图数据表示与学习。与现有 GATs 中的自注意力机制不同，所提 GSAT 采用 SNN 模块架构，具有明显的节能优势。此外，GSAT 可自然返回稀疏注意力系数，从而可对选择性邻居进行特征聚合，使 GSAT 在面临图边噪声时表现稳健。在多个数据集上的实验结果证明了所提 GSAT 模型的有效性、能效与稳健性。
引用
@article{arxiv.2209.13539,
title = {Spiking GATs: Learning Graph Attentions via Spiking Neural Network},
author = {Beibei Wang and Bo Jiang},
journal= {arXiv preprint arXiv:2209.13539},
year = {2022}
}