SmallPlan:利用小语言模型进行仿真驱动、LLM 指导的序列路径规划
机器人学
2025-09-26 v6 计算与语言
摘要
在机器人领域,尤其是在大规模复杂环境中进行高效路径规划,仍是一个重大挑战。虽然大语言模型(LLM)具有强大的推理能力,但其高计算成本和有限的适应性阻碍了在边缘设备上进行实时部署。我们提出了 SmallPlan——一种新型框架,利用 LLM 作为教师模型训练轻量级小语言模型(SLM),用于完成高层次路径规划任务。在 SmallPlan 中,SLM 提供最优动作序列以跨越表示完整 3D 场景的场景图。SLM 采用仿真驱动、交叉式方式进行训练,结合 LLM 指导的监督微调(SFT)和强化学习(RL)。这种策略不仅使 SLM 能够成功完成导航任务,而且使其意识到诸如旅行距离等重要因素,从而实现更高效的路径规划。通过实验,我们展示了微调后的 SLM 在序列路径规划方面的性能与更大型模型如 GPT-4o 相当,同时不会出现幻觉和过拟合。SmallPlan 资源高效,适用于边缘设备部署,推动了实际自主机器人的实用化。我们的源代码可在 https://github.com/quangpham2006/SmallPlan 获取。
引用
@article{arxiv.2505.00831,
title = {SmallPlan: Leverage Small Language Models for Sequential Path Planning with Simulation-Powered, LLM-Guided Distillation},
author = {Quang P. M. Pham and Khoi T. N. Nguyen and Nhi H. Doan and Cuong A. Pham and Qinbo Sun and Weimin Qi and Kentaro Inui and Dezhen Song},
journal= {arXiv preprint arXiv:2505.00831},
year = {2025}
}
备注
Paper is under review