基于图拉普拉斯特征向量的图神经网络预训练方法
机器学习
2025-11-11 v3
摘要
自监督图预训练方法的发展是近期设计稳健图基础模型（GFM）的关键要素。结构导向的预训练方法尚未得到充分探索，却对于依赖底层图结构的下游应用至关重要。此外，传统消息传递图神经网络捕获全局和区域结构的预训练常因网络深度增加而面临过平滑风险。我们通过提出基于预测图拉普拉斯低频特征向量的拉普拉斯特征向量学习模块（LELM），克服了上述问题，构建一种用于图神经网络（GNN）的新颖预训练模块。此外，LELM 引入一种新架构，克服过平滑现象，使 GNN 模型能够学习长程相互依赖。实验结果表明，我们框架预训练的模型在下游分子性质预测任务中优于基准模型。
引用
@article{arxiv.2509.02803,
title = {A Graph Laplacian Eigenvector-based Pre-training Method for Graph Neural Networks},
author = {Howard Dai and Nyambura Njenga and Hiren Madhu and Siddharth Viswanath and Ryan Pellico and Ian Adelstein and Smita Krishnaswamy},
journal= {arXiv preprint arXiv:2509.02803},
year = {2025}
}