深度强化学习中的可解释性
人工智能
2020-12-21 v4
摘要
大量可解释人工智能(XAI)文献涌现于特征相关性技术，用以解释深度神经网络(DNN)输出或解释摄取图像源数据的模型。然而，评估XAI技术如何帮助理解分类任务以外的模型(例如强化学习(RL))尚未得到广泛研究。我们综述了迈向可解释强化学习(XRL)的近期工作，XRL是XAI中相对较新的子领域，旨在面向普通公众应用，受众多样，需要符合伦理、负责任且可信的算法。在必须论证并解释智能体行为的关键情境中，更好的RL模型可解释性与可解读性有助于从科学上洞察仍被视为黑箱的内在机制。我们主要评估直接将可解释性与RL关联的研究，并按解释生成方式分为两类：透明算法与事后可解释性。我们还从XAI最显著工作的视角审视其如何潜在地启迪RL最新进展在当下与未来日常问题严峻需求中的进一步部署。
引用
@article{arxiv.2008.06693,
title = {Explainability in Deep Reinforcement Learning},
author = {Alexandre Heuillet and Fabien Couthouis and Natalia Díaz-Rodríguez},
journal= {arXiv preprint arXiv:2008.06693},
year = {2020}
}
备注
Article accepted at Knowledge-Based Systems