基于自然交互与大型语言模型的人形机器人行为增量学习

自然语言对话是实现直观人机交互的关键。它不仅可用于表达人的意图，还可在机器人未能正确理解指令时传达改进指示。至关重要的是赋予机器人从此类交互经验中以增量方式学习的能力，使其在未来改进行为或避免错误。本文提出一种从自然交互中实现复杂行为增量学习的系统，并在人形机器人上展示其实现。基于近期进展，我们提出一个部署大型语言模型(LLMs)用于机器人行为高层编排的系统，其思想是使LLM在交互式控制台中生成Python语句以调用机器人的感知与动作。通过将人类指令、环境观测和执行结果反馈给LLM，从而告知下一条语句的生成，由此闭合交互环路。具体而言，我们引入增量提示学习，使系统能从错误中进行交互式学习。为此，LLM可调用另一个负责基于人类反馈对当前交互进行代码级改进的LLM。改进后的交互随后保存于机器人记忆中，从而在类似请求时被检索。我们将该系统集成于人形机器人ARMAR-6的认知架构中，并通过仿真中的定量评估以及仿真与真实世界中的定性评估（展示泛化的增量习得知识）来验证我们的方法。