面向图基提示的 Fock 空间编码：FoGE
机器学习
2025-10-29 v2 人工智能
摘要
近期研究表明，现代大型语言模型 (LLM) 确实能够理解和回答关于结构化数据（如图）的问题。这种新范式可以提供需要更少监督的解决方案，同时提供可泛化并能回答训练标签之外问题的模型。现有方法 often 使用图的描述来创建 fed to LLM 的 "增强" 提示。对于特定图类，如果部署针对性强的图编码器与预训练 LLM 协同工作，模型即可良好回答图相关问题。现有的图基提示解决方案范围从图序列化到图转换器。在本工作中，我们表明基于 Fock 空间表示（概念来源于数学物理）的参数自由图编码器在此问题设置中功能极其多样。该方法的简单构建直接从理论中继承，经过少量小调整即可为广泛不同图提供丰富且信息丰富的图编码。我们研究了利用这一想法进行前缀调谐提示以发挥预训练、冻结 LLM 能力的用法。所做修改可实现模型回答图相关问题——从简单图到蛋白质再到超图——高效且对体系结构几乎无需调整。我们的工作显著简化了现有解决方案，并能轻松应用于多种不同的图基结构。
引用
@article{arxiv.2507.02937,
title = {FoGE: Fock Space inspired encoding for graph prompting},
author = {Sotirios Panagiotis Chytas and Rudrasis Chakraborty and Vikas Singh},
journal= {arXiv preprint arXiv:2507.02937},
year = {2025}
}