图Transformer的简单路径结构编码
机器学习
2025-06-03 v2 人工智能
摘要
图Transformer将全局自注意力扩展到图结构数据，在图学习领域取得了显著成功。近期，随机游走结构编码（RWSE）通过将结构和位置信息编码到边表示中，被发现能进一步增强其预测能力。然而，RWSE并不总能区分属于不同局部图模式的边，这降低了其捕捉图结构完整复杂性的能力。本工作提出简单路径结构编码（SPSE），一种利用简单路径计数进行边编码的新方法。我们从理论和实验上证明SPSE克服了RWSE的局限性，提供了更丰富的图结构表示，特别是对捕获局部环模式尤为有效。为使SPSE在计算上可行，我们提出了一种高效的简单路径计数近似算法。SPSE在分子和长程图数据集等各种基准测试中表现出显著优于RWSE的性能，在判别任务中取得了统计显著的提升。这些结果使SPSE成为增强图Transformer表达能力的强大边编码替代方案。
引用
@article{arxiv.2502.09365,
title = {Simple Path Structural Encoding for Graph Transformers},
author = {Louis Airale and Antonio Longa and Mattia Rigon and Andrea Passerini and Roberto Passerone},
journal= {arXiv preprint arXiv:2502.09365},
year = {2025}
}