增强图转换器:序列化图标记
机器学习
2026-02-11 v1 人工智能
摘要
Transformer 在图学习中尤其适用于节点级任务,已取得显著成功。然而,现有方法在生成图级表示时遇到信息瓶颈。普遍存在的单标记范式未能充分利用自注意力机制在编码标记序列方面的固有优势,退化为节点信号的加权求和。为此,我们设计一种新颖的序列化标记范式,以更有效地封装全局信号。具体而言,提出一种图序列化方法,将节点信号聚合为序列化图标记,并自动涉及位置编码。随后,对堆叠的自注意力层进行应用,以编码该标记序列并捕获其内部依赖。我们的方法可通过建模多个图标记之间的复杂相互作用,生成更具表达力的图表示。实验结果表明,我们的方法在多个图级基准测试上实现了最先进的结果。消融研究验证了所提出模块的有效性。
引用
@article{arxiv.2602.09065,
title = {Enhanced Graph Transformer with Serialized Graph Tokens},
author = {Ruixiang Wang and Yuyang Hong and Shiming Xiang and Chunhong Pan},
journal= {arXiv preprint arXiv:2602.09065},
year = {2026}
}
备注
ICASSP 2026