通过对比行为摘要传达自主机器人的能力
机器人学
2023-04-04 v1 人工智能
多智能体系统
摘要
随着人工智能的进步使基于学习的自主智能体愈发强大，人类观察者越来越难以高效地构建关于智能体行为的心理模型。为了成功部署自主智能体，人类不仅应当理解各智能体的个体局限，还应洞察它们之间的相互比较。为此，我们需要有效的方法来生成人类可解释的智能体行为摘要。单智能体行为摘要过去已通过在一些方法中得到解决，这些方法为智能体在单个时间步选择特定动作生成解释。然而，对于复杂任务，逐动作的解释可能无法传达智能体的全局策略。因此，研究者转向多时间步摘要，其能更好地帮助人类评估智能体的整体能力。近来，多步摘要也被用于生成对比样例以评估多个智能体。但过去的方法主要依赖非结构化搜索来生成摘要，并要求智能体具有离散动作空间。本文提出一种自适应搜索方法，可高效生成对比行为摘要，并支持连续状态与动作空间。我们开展了一项用户研究，以评估这些摘要在帮助人类辨别给定任务中更优自主智能体方面的有效性。结果表明，自适应搜索能高效识别信息丰富的对比场景，使人类在有限的观察时间预算下准确选出性能更优的智能体。
引用
@article{arxiv.2304.00367,
title = {Conveying Autonomous Robot Capabilities through Contrasting Behaviour Summaries},
author = {Peter Du and Surya Murthy and Katherine Driggs-Campbell},
journal= {arXiv preprint arXiv:2304.00367},
year = {2023}
}