我们如何信赖 opaque 系统？面向 XAI 的稳健解释标准

深度学习（DL）算法正在日益普及于日常生活和科学研究中。然而，我们为其惊人准确的预测付出了显著代价：它们的内在工作方式备受诅咒——普通人和研究者 alike 甚至不知道 DL 系统关注数据中的哪些特征，以及它如何成功地预测正确的输出。可信赖的解释的一个必要标准是：它们应反映算法预测所基于的相关过程。可解释人工智能（XAI）领域提出了一些有前景的方法，以创建此类解释。然而，近期关于其性能的综述报告提出了值得怀疑的理由。我们将论证：可信赖的标准是解释鲁棒性——不同 XAI 方法在可比情境下 produces 相同的解释。然而，在某些情况下，所有方法可能给出相同的但仍然错误的解释。我们因此认为，除了解释鲁棒性（ER）外，解释方法鲁棒性（EMR）也必须由每个 XAI 方法满足。相反，单个方法的鲁棒性本身对可信赖性并不足够。在下文中，我们发展并形式化 ER 以及 EMR 的标准，为解释和建立 DL 算法的信任提供了框架。我们还指出了有趣的应用案例，并概述了未来工作的方向。