弥合鸿沟：为具有难解表示的序列决策问题提供事后符号解释
人工智能
2022-03-22 v4
摘要
随着日益复杂的人工智能（AI）系统进入我们的日常生活，此类系统能够解释其决策理由并允许用户质疑这些决策变得十分重要。实现此类解释性对话的一个重大障碍可能是用户与 AI 系统之间的词汇不匹配。本文介绍了在序列决策设定下，针对系统任务模型最好表示为难解模型的情况，基于用户指定概念提供对比性解释的方法。我们通过构建任务局部近似的部分符号模型来实现这一点，该模型可用于回答用户查询。我们在流行的 Atari 游戏（Montezuma's Revenge）和 Sokoban（知名规划基准）的变体上测试了这些方法，并报告了用户研究的结果，以评估人们是否认为以此形式生成的解释有用。
引用
@article{arxiv.2002.01080,
title = {Bridging the Gap: Providing Post-Hoc Symbolic Explanations for Sequential Decision-Making Problems with Inscrutable Representations},
author = {Sarath Sreedharan and Utkarsh Soni and Mudit Verma and Siddharth Srivastava and Subbarao Kambhampati},
journal= {arXiv preprint arXiv:2002.01080},
year = {2022}
}