LLM 时代的图学习：从数据、模型与任务视角的综述
机器学习
2024-12-18 v1 人工智能
计算与语言
数据库
摘要
随着跨领域文本属性图 (TAG) 数据（如引文网络、推荐系统、社交网络和 ai4science）日益普及，将图神经网络 (GNN) 和大语言模型 (LLM) 集成到统一的模型架构中（如 LLM 作为增强器、LLM 作为协作者、LLM 作为预测器）已成为一种极具前景的技术范式。这种新图学习范式的核心在于将 GNN 捕获复杂结构关系的能力与 LLM 从丰富图文本描述中理解信息上下文的熟练程度进行协同结合。因此，我们可以利用具有丰富语义上下文的图描述文本来从根本上提升数据质量，从而符合以数据为中心的机器学习原则，提升以模型为中心的方法的表示能力。通过利用这些不同神经网络架构的优势，这种集成方法解决了广泛的基于 TAG 的任务（如图学习、图推理和图问答），特别是在复杂的工业场景中（如监督、少样本和零样本设置）。换言之，我们可以将文本视为媒介，实现图学习模型的跨领域泛化，使得单一图模型能够有效处理不同数据领域下各种基于图的下游任务。本工作为希望在 LLM 快速发展的领域中推进图学习方法的研究人员和从业者提供了基础性参考。我们在 \url{https://github.com/xkLi-Allen/Awesome-GNN-in-LLMs-Papers} 持续维护相关的开源材料。
引用
@article{arxiv.2412.12456,
title = {Graph Learning in the Era of LLMs: A Survey from the Perspective of Data, Models, and Tasks},
author = {Xunkai Li and Zhengyu Wu and Jiayi Wu and Hanwen Cui and Jishuo Jia and Rong-Hua Li and Guoren Wang},
journal= {arXiv preprint arXiv:2412.12456},
year = {2024}
}
备注
In progress