可解释强化学习：综述

可解释人工智能（XAI），即开发更透明、可解释的 AI 模型，在过去几年中获得了越来越多的关注。这是因为，随着 AI 模型成长为强大且无处不在的工具，它们表现出一个有害特征：性能-透明度权衡。这描述的是模型内部机制越复杂，其预测或决策是如何得出的就越不清晰。但是，特别是考虑到像强化学习（RL）这样的机器学习（ML）方法，系统自主地学习，理解其决策背后推理过程的必要性就变得显而易见。据我们所知，目前不存在提供可解释强化学习（XRL）方法概览的单一著作，本综述试图填补这一空白。我们简要概述该问题，定义重要术语，并对当前 XRL 方法进行分类与评估。我们发现：a）大多数 XRL 方法通过模仿和简化复杂模型来运作，而非设计内在简单的模型；b）XRL（及 XAI）方法常忽视方程中人的一面，未考虑心理学或哲学等相关领域的研究。因此，需要跨学科努力，将生成的解释适配于（非专家的）人类用户，以在 XRL 及广义 XAI 领域有效取得进展。