面向机器人规划的设备端语言模型蒸馏:最小化人工干预
机器人学
2025-10-08 v2 人工智能
机器学习
摘要
大型语言模型(LLM)为机器人提供了强大的上下文推理能力和自然的人机交互界面。然而,当前基于LLM的机器人通常依赖云端模型,这限制了它们在通信基础设施不可靠的环境(如户外或工业环境)中的可用性。我们提出了PRISM,一个用于蒸馏可在设备端运行、且仅需最少人工监督的小型语言模型(SLM)机器人规划器的框架。从现有的基于LLM的规划器出发,PRISM自动合成多样化的任务和环境,从LLM中引出规划,并利用这个合成数据集来蒸馏一个紧凑的SLM,作为源模型的即插即用替代品。我们将PRISM应用于三个基于LLM的规划器,分别用于地图构建与探索、操作和家务辅助,并证明PRISM将Llama-3.2-3B的性能从GPT-4o性能的10-20%提升到了超过93%——仅使用合成数据。我们进一步证明,蒸馏后的规划器能够泛化到异构机器人平台(地面和空中)和多样化环境(室内和室外)。我们在https://zacravichandran.github.io/PRISM 上发布了所有软件、训练好的模型和数据集。
引用
@article{arxiv.2506.17486,
title = {Distilling On-device Language Models for Robot Planning with Minimal Human Intervention},
author = {Zachary Ravichandran and Ignacio Hounie and Fernando Cladera and Alejandro Ribeiro and George J. Pappas and Vijay Kumar},
journal= {arXiv preprint arXiv:2506.17486},
year = {2025}
}
备注
Accepted to the Conference on Robot Learning (CoRL) 2025