面向可靠LLM机器人规划的联合不确定性估计
机器人学
2025-10-10 v1 人工智能
摘要
大型语言模型（LLMs）展示出先进的推理能力，使机器人能够理解自然语言指令并生成恰当 grounding 的高层次计划。然而，LLM幻觉 presents a significant challenge，常导致过度自信却可能偏离或不安全的计划。尽管研究者探索不确定性估计以提高LLM-based规划的可靠性，但现有研究未充分区分epistemic与intrinsic不确定性，限制了不确定性估计的有效性。本文提出结合不确定性估计以实现可靠具身化规划（Combined Uncertainty estimation for Reliable Embodied planning，简称CURE），该方法将不确定性分解为epistemic与intrinsic不确定性，分别进行估计。此外，epistemic不确定性细分为任务清晰度（task clarity）与任务熟悉度（task familiarity），以实现更精准的评估。通过随机网络蒸馏和由LLM特征驱动的多层感知器回归头获取整体不确定性评估。我们在厨房操作与桌面重排两个不同的实验环境中验证了该方法。结果表明，与现有方法相比，我们的方法获得的不确定性估计更贴近实际执行结果。
引用
@article{arxiv.2510.08044,
title = {Towards Reliable LLM-based Robot Planning via Combined Uncertainty Estimation},
author = {Shiyuan Yin and Chenjia Bai and Zihao Zhang and Junwei Jin and Xinxin Zhang and Chi Zhang and Xuelong Li},
journal= {arXiv preprint arXiv:2510.08044},
year = {2025}
}