GCoT: 图的链式思维提示学习
计算与语言
2025-06-03 v2 人工智能
摘要
链式思维(CoT)提示在自然语言处理(NLP)中取得了显著成功。然而,其巨大潜力在图中尚未被充分探索。这提出了一个有趣的问题:如何为图设计CoT提示来引导图模型逐步学习?一方面,与自然语言不同,图是非线性的,具有复杂的拓扑结构。另一方面,许多图缺乏文本数据,使得基于语言的CoT提示难以构建。在这项工作中,我们提出了首个面向无文本图的CoT提示学习框架GCoT。具体而言,我们将每个下游任务的适配过程分解为一系列推理步骤,每个步骤包括基于提示的推理、「思维」生成和思维条件提示学习。虽然这些步骤模仿了NLP中的CoT提示,但具体机制存在显著差异。具体而言,在每个步骤中,输入图和提示首先被输入到预训练的图编码器中,进行基于提示的推理。然后,我们聚合编码器的隐藏层来构建一个「思维」,用于捕捉当前步骤中每个节点的工作状态。基于该思维,我们根据当前状态为每个节点学习特定的提示。这些提示被输入到下一步推理中,重复该循环。为了评估和分析GCoT的有效性,我们在八个公开数据集上进行了全面的实验,证明了我们方法的优势。
引用
@article{arxiv.2502.08092,
title = {GCoT: Chain-of-Thought Prompt Learning for Graphs},
author = {Xingtong Yu and Chang Zhou and Zhongwei Kuai and Xinming Zhang and Yuan Fang},
journal= {arXiv preprint arXiv:2502.08092},
year = {2025}
}
备注
Accepted by SIGKDD2025