寻求帮助的机器人：大语言模型规划器的不确定性对齐
机器人学
2023-09-06 v2 人工智能
应用统计
摘要
大语言模型（LLM）展现出一系列有前景的能力——从逐步规划到常识推理——可能为机器人提供效用，但仍易产生自信的幻觉预测。在本工作中，我们提出KnowNo，这是一个用于度量和对齐基于LLM的规划器不确定性的框架，使其知道何时不知并能在需要时寻求帮助。KnowNo基于保角预测理论，在复杂多步规划设定中提供任务完成的统计保证，同时最小化人类帮助。在涉及不同模糊模式（例如，从空间到数值不确定性，从人类偏好到Winograd schema）任务的多种仿真和真实机器人设置上的实验表明，KnowNo在提升效率和自主性方面优于现代基线（可能涉及集成或大量提示调优），同时提供形式化保证。KnowNo可开箱即用地与LLM配合使用而无需模型微调，并提出了一种有前景的轻量级不确定性建模方法，可补充并随基础模型日益增长的能力而扩展。网站：https://robot-help.github.io
引用
@article{arxiv.2307.01928,
title = {Robots That Ask For Help: Uncertainty Alignment for Large Language Model Planners},
author = {Allen Z. Ren and Anushri Dixit and Alexandra Bodrova and Sumeet Singh and Stephen Tu and Noah Brown and Peng Xu and Leila Takayama and Fei Xia and Jake Varley and Zhenjia Xu and Dorsa Sadigh and Andy Zeng and Anirudha Majumdar},
journal= {arXiv preprint arXiv:2307.01928},
year = {2023}
}
备注
Conference on Robot Learning (CoRL) 2023, Oral Presentation