自动化决策中人工智能解释的内涵、缘由与方式

人工智能以自动化系统的形式日益融入决策过程，这不仅凸显了决策理论对自动化系统的重要性，也表明这些决策程序需要向参与其中人员可解释。传统的解释实在论主张将解释视为解释项与被解释项之间永恒成立（或不成立）的关系，不足以刻画人工智能决策程序所需的解释概念。我们提出了一种用于自动化决策语境的替代性解释观，将解释视为一种认知现象，且依赖于语境。该解释观更好地说明了我们谈论和使用解释及其衍生概念（如“解释力”）的方式，也使我们能够区分一方面作为理由或原因（无需具有认知层面）与另一方面作为解释（确实具有此类层面）的不同。在此理论背景下，我们回顾了人工智能与机器学习中现有的解释方法，并提出了真正可解释的决策系统应满足的期望性质。