通过轻量级本地 LLM 实现可扩展的机器人自主性:基于神经符号规划
人工智能
2025-05-20 v2 机器学习
机器人学
摘要
基于 PDDL 的符号任务规划是机器人自主性的关键,但在动态的人机协作场景中面临可扩展性、重规划需求以及计划获取延迟等挑战。虽然之前的少数神经符号框架曾利用如 GPT-3 等大型语言模型 (LLM) 解决这些问题,但依赖闭源远程模型并受限于上下文长度,引入了关键约束:第三方依赖、响应时间不稳定、计划长度和复杂度受限,以及跨域可扩展性问题。我们提出 Gideon,一种新型框架,使其能够过渡到现代更小的本地 LLM,并支持更长的上下文长度。Gideon 集成了一种新颖的问题生成器,用于系统地为任意领域生成大规模的真实域-问题-计划三元组数据集,并为本地 LLM 定制神经符号规划,实现本地设备执行并支持更长的上下文以实现跨域支持。针对单域场景的初步实验在 Qwen-2.5 1.5B 模型上进行,训练样本为 8k-32k,显示有效计划比例为 66.1% (32k 模型),并通过增加数据进一步提升。多域测试在 16k 样本上 yield 有效率达 70.6%,证明跨域可扩展性,并暗示数据多样性对学习效率具有积极作用。尽管长期计划和较小模型使 Gideon 的训练效率远低于基于更大 LLM 的基准模型,但考虑到训练得到的模型仅为基准的约 120 倍,且在推理效率、可扩展性和跨域适应性等关键因素上均取得显著优势,这些结果仍具有重要意义。Gideon 的数据生成管道经过精简,可一定程度缓解训练效率问题。
引用
@article{arxiv.2505.08492,
title = {Achieving Scalable Robot Autonomy via neurosymbolic planning using lightweight local LLM},
author = {Nicholas Attolino and Alessio Capitanelli and Fulvio Mastrogiovanni},
journal= {arXiv preprint arXiv:2505.08492},
year = {2025}
}
备注
18 pages, 3 figures, 4 tables, accepted at IAS 2025