CoFineLLM：面向语言指令机器人规划的 LLM 共轨微调
机器人学
2025-11-11 v1 人工智能
机器学习
摘要
大型语言模型（LLM）最近被用作语言指令智能体的规划器，生成以自然语言任务为目标的动作序列。然而，其可靠性仍是一个挑战，尤其是在长期任务中，因为它们常常会产生过于自信却错误的输出。共轨预测（Conformal Prediction, CP）已被用于通过将 LLM 输出包装为包含用户定义置信水平下正确动作的预测集来解决此问题。当预测集为单元素时，规划器执行该动作；否则，它请求用户帮助。这导致能够以用户定义的概率确保计划正确性的 LLM 基于规划器。然而，由于 LLM 是在不考虑预测集的不确定性中训练的，缺乏对预测集的意识，它们倾向于产生不必要的大型预测集，尤其是在更高的置信水平下，导致频繁的人类干预，限制了自主部署。在本工作中，我们引入 CoFineLLM（Conformal Finetuning for LLMs），即为 LLM 基于规划器的首个 CP 感知微调框架，显式地减少预测集的大小，从而减少用户干预的需求。我们在多个语言指令机器人规划问题上进行评估，结果表明与不确定性感知和不确定性不敏感的微调基线相比，在预测集大小和帮助率方面 consistently 实现改进。最后，我们在硬件实验中展示了该方法对 out-of-distribution 场景的鲁棒性。
引用
@article{arxiv.2511.06575,
title = {CoFineLLM: Conformal Finetuning of LLMs for Language-Instructed Robot Planning},
author = {Jun Wang and Yevgeniy Vorobeychik and Yiannis Kantaros},
journal= {arXiv preprint arXiv:2511.06575},
year = {2025}
}