ASQ-IT：面向强化学习智能体的交互式解释工具
人工智能
2023-01-25 v1 人机交互
摘要
随着强化学习方法取得的成就日益增多，理解其解决方案的需求也变得愈发关键。大多数可解释强化学习（XRL）方法生成静态解释，描述其开发者对于“应解释什么以及如何解释”的直觉。相比之下，社会科学文献提出，有意义的解释应构建为解释者与被解释者之间的对话，这意味着用户应扮演更主动的角色并与之智能体交流。在本文中，我们提出 ASQ-IT——一种交互式工具，它基于用户给出的、描述感兴趣行为的时间属性的查询，呈现智能体在其环境中行动的视频片段。我们的方法基于形式化方法：ASQ-IT 用户界面中的查询映射到我们开发的有限轨迹线性时序逻辑（LTLf）的一个片段，且我们的查询处理算法基于自动机理论。用户研究表明，终端用户能够理解并表述 ASQ-IT 中的查询，且使用 ASQ-IT 有助于用户识别智能体的错误行为。
引用
@article{arxiv.2301.09941,
title = {ASQ-IT: Interactive Explanations for Reinforcement-Learning Agents},
author = {Yotam Amitai and Guy Avni and Ofra Amir},
journal= {arXiv preprint arXiv:2301.09941},
year = {2023}
}