推断人类意图以遵循自然语言指令
人工智能
2024-09-27 v1 计算与语言
机器学习
摘要
为了使 AI 代理能够帮助人类，他们应该能够遵循自然语言指令，在人类环境中完成日常合作任务。然而，真实的人类指令本质上具有歧义，因为说话者假设他们对隐藏目标和意图具有充分的先验知识。标准的语言 grounding 和规划方法无法解决此类歧义，因为它们不将人类内部目标建模为环境中的额外部分可观测因素。我们提出一种新框架 Follow Instructions with Social and Embodied Reasoning (FISER)，旨在改进协作式具身任务中对自然语言指令的跟随。我们的框架在推理步骤中显式地推断人类目标和意图。我们实现了一组基于 Transformer 的模型，并在一个具有挑战性的基准测试 HandMeThat 上对其进行评估。我们经验性地表明，通过显式推断人类意图再进行行动计划，优于纯端到端的方法。我们还将我们的实现与包括在最大可获得预训练语言模型上进行链式思考提示的强基准进行比较，发现 FISER 在受调查的具身社会推理任务上性能更佳，在 HandMeThat 上达到了最新的水平。
引用
@article{arxiv.2409.18073,
title = {Infer Human's Intentions Before Following Natural Language Instructions},
author = {Yanming Wan and Yue Wu and Yiping Wang and Jiayuan Mao and Natasha Jaques},
journal= {arXiv preprint arXiv:2409.18073},
year = {2024}
}