我们理解一致吗？基于强化学习的人机协作规划任务分层解释生成
人工智能
2021-03-01 v2
摘要
在人机协作框架中，提供解释被视为 AI 智能体的一项必要能力。恰当的解释提供了 AI 智能体决策背后的原理。然而，为维护人类队友理解所提供解释的认知需求，先前工作聚焦于以特定顺序提供解释或将解释生成与计划执行交织。此外，这些方法未考虑整个提供解释过程中所需共享的细节程度。在这项工作中，我们认为智能体生成的解释，尤其是复杂解释，应进行抽象以与人类队友期望的细节层级对齐，从而维持接收者的认知负荷。因此，学习一个分层解释模型是一项具有挑战性的任务。此外，智能体需要遵循一致的高层策略，以将学到的队友偏好迁移到新场景，而低层详细计划是不同的。我们的评估证实了理解一个解释（尤其是复杂且详细的解释）的过程是分层的。反映此方面的人类偏好恰好对应于在我们认知过程中更深层知识同化处创建和运用抽象。我们展示了分层解释在降低认知负荷的同时实现了更好的任务性能和行为可解释性。这些结果为人机协作各领域中使用强化学习与规划设计可解释智能体提供了启示。
引用
@article{arxiv.2012.11792,
title = {Are We On The Same Page? Hierarchical Explanation Generation for Planning Tasks in Human-Robot Teaming using Reinforcement Learning},
author = {Mehrdad Zakershahrak and Samira Ghodratnama},
journal= {arXiv preprint arXiv:2012.11792},
year = {2021}
}