用行为民俗概念诊断人工智能解释方法

我们研究了一种关于人工智能成功解释条件的 formalism。我们认为“成功”不仅取决于解释所包含的信息，还取决于人类被解释者从中理解到的信息。心理理论文献讨论了人类用于理解和泛化行为的民俗概念。我们假定行为民俗概念为我们提供了一种人类借以理解行为的“语言”。我们将这些民俗概念用作人类被解释者进行社会归因的框架——即人类可能从解释中领会的信息构念——通过引入一种解释性叙事的蓝图（图1），用这些构念解释人工智能行为。随后我们证明，当今许多 XAI 方法在定性评估中可映射到行为民俗概念。这使我们能够揭示它们阻碍当前方法成功解释的失败模式——即任何给定 XAI 方法所缺失的信息构念，而补充这些构念可降低误解人工智能行为的可能性。