FIMP：用于图神经网络的基础模型引导消息传递
机器学习
2024-07-03 v5
摘要
基础模型依靠在海量数据上的预训练，已在许多领域取得显著成功。图结构数据通常缺乏与非结构化数据同等的规模，使得图基础模型的开发具有挑战性。在这项工作中，我们提出了基础模型引导消息传递（FIMP），一种利用预训练的非文本基础模型处理基于图的任务的图神经网络（GNN）消息传递框架。我们展示了基础模型的自注意力层可以有效地重新用于图上，以执行基于跨节点注意力的消息传递。我们的模型在真实世界的图像网络数据集和两种生物应用（单细胞 RNA 测序数据和 fMRI 脑活动记录）上以微调与零样本设定进行了评估。FIMP 优于强基线，表明它能在图任务中有效利用最先进的基础模型。
引用
@article{arxiv.2210.09475,
title = {FIMP: Foundation Model-Informed Message Passing for Graph Neural Networks},
author = {Syed Asad Rizvi and Nazreen Pallikkavaliyaveetil and David Zhang and Zhuoyang Lyu and Nhi Nguyen and Haoran Lyu and Benjamin Christensen and Josue Ortega Caro and Antonio H. O. Fonseca and Emanuele Zappala and Maryam Bagherian and Christopher Averill and Chadi G. Abdallah and Amin Karbasi and Rex Ying and Maria Brbic and Rahul Madhav Dhodapkar and David van Dijk},
journal= {arXiv preprint arXiv:2210.09475},
year = {2024}
}
备注
16 pages (12 + 4 pages appendix). 5 figures and 4 tables