可解释深度学习：面向初学者的领域指南

深度神经网络（DNNs）已成为一种经过验证且不可或缺的机器学习工具。作为一种黑盒模型，诊断驱动 DNN 决策的模型输入的哪些方面仍然困难。在从立法与执法到医疗健康的无数现实领域中，此类诊断对于确保 DNN 决策由使用情境下合适的方面所驱动至关重要。因此，支持解释 DNN 决策的方法与研究的发展已蓬勃成为一个活跃而广泛的研究领域。想要研究可解释深度学习的从业者可能会被该领域大量正交的方向所吓倒。对于“解释”DNN 行为以及评估一种方法的“解释能力”存在相互竞争的定义，进一步加剧了这种复杂性。本文提供了一份探索可解释深度学习空间的领域指南，面向该领域的初学者。该指南：i）引入定义支撑可解释深度学习的基础方法空间的三个简单维度，ii）讨论模型解释的评估，iii）将可解释性置于其他相关深度学习研究领域的语境中，iv）最后详述面向用户的解释设计以及可解释深度学习的潜在未来方向。我们希望该指南能作为刚涉足该领域研究者的易消化的起点。