AI 解释的概念-认识论分析

人工智能（AI）正在几乎应用于每个领域。同时，当前主导的深度学习方法是从根本上黑箱化的系统，缺乏对其推理过程的解释，显著限制了其可信度和采纳度。解释性人工智能（XAI）方法旨在通过提供模型决策过程的解释来克服这一挑战。这些方法通常由具有技术背景的工程师和科学家提出和开发，并纳入他们关于不同可见解释机制存在性、有效性及其解释效用的不同假设。然而，解释的基本概念——即它是什么、我们是否可以知道它、它是绝对的还是相对的——远非 trivial，且已是深远哲学讨论的主题。正如我们在此所指出的，纳入不同 XAI 方法中的假设并非无害，对这些方法在不同领域中解释的有效性和解释具有重要影响。我们研究在应用于 AI 系统时，解释方法中所包含的本体论和认识论假设，即我们对解释存在性及我们获取这些解释知识能力的假设。我们的分析表明，看似微小的对 XAI 方法进行的技术性修改可能对应于对关于解释的底层假设的重要差异。我们进一步指出，忽略在为特定应用选择 XAI 方法时所包含的本体论-认识论范式的风险，并讨论如何为不同应用领域选择和适当调整 XAI 方法。