变更反事实解释——无关性对于解释 AI 系统的相关性
人工智能
2022-07-20 v1
摘要
来自反事实思维领域的解释机制是可解释人工智能（XAI）的广泛使用范式，因为它们遵循人类熟悉的自然推理方式。然而，该领域所有常见方法都基于传达关于对 AI 决策尤其重要的特征或特性的信息。我们认为，为了充分理解一个决策，不仅需要关于相关特征的知识，对无关信息的意识也极大有助于用户形成对 AI 系统的心智模型。因此，我们引入一种解释 AI 系统的新方式。我们称为 Alterfactual Explanations（变更反事实解释）的方法基于展示一个替代现实，其中 AI 输入的无关特征被改变。通过这样做，用户直接看到输入数据的哪些特征可以任意改变而不影响 AI 的决策。我们在一个大规模用户研究中评估了我们的方法，揭示它能够显著有助于参与者对 AI 的理解。我们表明变更反事实解释适于传达不同于既有反事实解释方法的 AI 推理各方面的理解。
引用
@article{arxiv.2207.09374,
title = {Alterfactual Explanations -- The Relevance of Irrelevance for Explaining AI Systems},
author = {Silvan Mertes and Christina Karle and Tobias Huber and Katharina Weitz and Ruben Schlagowski and Elisabeth André},
journal= {arXiv preprint arXiv:2207.09374},
year = {2022}
}
备注
Accepted at IJCAI 2022 Workshop on XAI