GraphDancer: 通过两阶段课程后训练训练大语言模型以探索和推理图结构
机器学习
2026-05-27 v2 人工智能
计算与语言
摘要
大语言模型（LLMs）越来越依赖外部知识来提高准确性，但许多真实世界的知识来源以异构图形式组织而非纯文本。对此类图进行推理需要模型遵循由模式定义的关系，通过精确函数调用并在多轮交互中聚合证据。我们提出GraphDancer，一种两阶段后训练框架，通过交替自然语言推理和图函数执行来教会大语言模型推理图。第一阶段在基于规则的奖励下教会模型如何与图交互，而第二阶段进一步教会模型更倾向于更具 grounding 和高效的交互轨迹。GraphDancer的关键新颖之处在于一种图感知课程，将两个阶段组织为信息寻求轨迹的结构复杂性，逐步增加训练期间任务的难度。我们在多领域基准上评估了GraphDancer，通过仅在一个领域训练来测试在未见领域和分布外问题类型上的表现。尽管仅使用3B参数的底层模型，GraphDancer仍优于配备更大/更强大底层模型的基线，显示出对图探索和推理技能的稳健跨域泛化。我们的代码可在https://github.com/leopoldwhite/GraphDancer找到。
引用
@article{arxiv.2602.02518,
title = {GraphDancer: Training LLMs to Explore and Reason over Graphs via Two-Stage Curriculum Post-Training},
author = {Yuyang Bai and Zhuofeng Li and Ping Nie and Jianwen Xie and Yu Zhang},
journal= {arXiv preprint arXiv:2602.02518},
year = {2026}
}
备注
15 pages, Project website: https://yuyangbai.com/graphdancer/