迈向更优动态图学习：新架构与统一库
机器学习
2023-10-20 v3
摘要
我们提出 DyGFormer，一种基于 Transformer 的新型动态图学习架构。DyGFormer 概念简单，仅需从节点的历史一跳交互中学习：（1）一种基于源节点与目标节点的历史序列探索其相关性的邻居共现编码方案；（2）一种将每个序列划分为多个片段并输入 Transformer 的打补丁技术，使模型能高效且有效地从更长历史中获益。我们还引入 DyGLib，一个具有标准训练流程、可扩展编码接口和全面评估协议的统一库，以促进可复现、可扩展且可信的动态图学习研究。通过在十三个数据集上针对动态链接预测与动态节点分类任务进行详尽实验，我们发现 DyGFormer 在大多数数据集上取得了最先进（SOTA）性能，证明了其在捕捉节点相关性与长期时间依赖上的有效性。此外，一些基线的结果与先前报告不一致，可能源于其多样但不够严谨的实现，显示了 DyGLib 的重要性。所有所用资源公开于 https://github.com/yule-BUAA/DyGLib。
引用
@article{arxiv.2303.13047,
title = {Towards Better Dynamic Graph Learning: New Architecture and Unified Library},
author = {Le Yu and Leilei Sun and Bowen Du and Weifeng Lv},
journal= {arXiv preprint arXiv:2303.13047},
year = {2023}
}
备注
Accepted at NeurIPS 2023, Camera Ready Version