行动中的不确定性:具身智能体的置信度激发
人工智能
2025-03-14 v1 机器学习
摘要
在动态多模态环境中导航的具身智能体表达置信度具有挑战性,因为不确定性同时源于感知和决策过程。我们首次研究了开放性多模态环境中的具身置信度激发。我们引入 Elicitation Policies(激发策略),在归纳、演绎和溯因推理的结构化框架下进行置信度评估,以及 Execution Policies(执行策略),通过场景重新解释、动作采样和假设推理来增强置信度校准。我们在 Minecraft 环境中评估智能体在置信度校准和失败预测任务中的表现,结果表明结构化推理方法(如思维链)可以改善置信度校准。然而,我们的发现也揭示了在区分不确定性方面持续存在的挑战,特别是在溯因设定下,这凸显了对更复杂的具身置信度激发方法的需求。
引用
@article{arxiv.2503.10628,
title = {Uncertainty in Action: Confidence Elicitation in Embodied Agents},
author = {Tianjiao Yu and Vedant Shah and Muntasir Wahed and Kiet A. Nguyen and Adheesh Juvekar and Tal August and Ismini Lourentzou},
journal= {arXiv preprint arXiv:2503.10628},
year = {2025}
}
备注
Project page: https://plan-lab.github.io/ece/