LBAP：利用贝叶斯推断改进LLM规划器的不确定性对齐
机器人学
2025-06-18 v3
摘要
大语言模型（LLM）展示了许多适用于智能且有用的机器人的理想特性。然而，它们也以产生幻觉预测而闻名。这个问题在机器人技术中尤为严重，因为LLM幻觉可能导致机器人自信地执行与用户目标相反的计划，或更频繁地依赖人类帮助。在这项工作中，我们提出了LBAP，这是一种利用现成LLM和贝叶斯推断进行机器人规划器不确定性对齐的新颖方法，旨在最小化幻觉和人类干预。我们的关键发现是，我们可以利用贝叶斯推断，通过同时考虑场景基础和世界知识来更准确地校准机器人的置信度度量。这一过程使我们能够减轻幻觉，并更好地将LLM的置信度度量与成功概率对齐。通过在具有各种歧义的任务上进行模拟和真实世界的实验，我们表明LBAP显著提高了成功率，并减少了相对于现有技术所需的人类干预量。例如，在我们的真实世界测试范式中，LBAP在70%的成功率下将先前方法的人类帮助率降低了33%以上。
引用
@article{arxiv.2403.13198,
title = {LBAP: Improved Uncertainty Alignment of LLM Planners using Bayesian Inference},
author = {James F. Mullen and Dinesh Manocha},
journal= {arXiv preprint arXiv:2403.13198},
year = {2025}
}