Graph-ToolFormer：通过 ChatGPT 增强提示赋予 LLM 图推理能力

在本文中，我们旨在开发具备复杂图数据推理能力的大语言模型（LLM）。当前，LLM 已在各种自然语言学习任务上取得令人印象深刻的性能，其扩展也被应用于研究具有多模态数据的视觉任务。然而，在图学习任务上，现有 LLM 因其自身在{多步逻辑推理}、{精确数学计算}与{时空因素感知}方面的若干固有弱点而表现出非常严重的缺陷。为应对这些挑战，本文将研究赋予现有 LLM 图推理能力的原理、方法与算法，这将对 LLM 与图学习的当前研究产生巨大影响。受最新 ChatGPT 与 Toolformer 模型启发，我们提出 Graph-ToolFormer（面向图推理的 Toolformer）框架，以 ChatGPT 增强的提示教导 LLM 自身使用外部图推理 API 工具。具体而言，本文将研究教导 Graph-ToolFormer 处理各类图数据推理任务，包括（1）非常基础的图数据加载与图属性推理任务，从简单的图阶数与大小到图直径与边界，以及（2）真实世界图数据上更先进的推理任务，如文献网络、蛋白质分子、序列推荐系统、社交网络与知识图谱。