人们在解释自动驾驶汽车行为时赋予其目的：来自认知科学对可解释人工智能的启示

人们常认为有效的以人为中心的可解释人工智能（XAI）应当类似于人类推理。然而，关于认知科学的概念如何辅助 XAI 设计的实证研究仍然缺乏。基于认知科学的见解，我们提出了一个解释模式框架，用于分析人们如何构建解释，无论是机械论的、目的论的还是反事实的。利用自动驾驶这一复杂的安全关键领域，我们进行了一项包含两项研究的实验：（i）人们如何在 14 个独特场景中解释车辆的行为（N1=54），以及（ii）他们如何感知这些解释（N2=382），并由此精心构建了新颖的自动驾驶决策人类解释（HEADD）数据集。我们的主要发现是，参与者认为目的论解释的质量显著优于反事实解释，且感知到的目的论是解释质量的最佳预测因子。基于我们的结果，我们论证了解释模式是设计与评估 XAI 时的一个重要分析维度，并强调需要对解释的认知机制有原则性且基于实证的理解。HEADD 数据集与我们的代码可在以下网址获取：https://datashare.ed.ac.uk/handle/10283/8930。