优良反事实及其何处寻：一种用于生成可解释人工智能（XAI）反事实的基于案例的技术
人工智能
2020-05-29 v1
摘要
近来，大量研究将反事实解释的使用视为可解释人工智能（XAI）问题的一个潜在重要解决方案。有人认为：（a）从技术上讲，这些反事实案例可通过置换问题特征直至发现类别改变来生成；（b）从心理学上讲，它们比事实解释更具因果信息量；（c）从法律上讲，它们符合 GDPR。然而，使用当前技术寻找优良反事实存在一些问题（例如稀疏性与合理性）。我们表明，许多常用数据集似乎鲜有用于解释目的的优良反事实。因此，我们提出一种基于案例的新方法来生成反事实，其利用了关于案例库的反事实潜力与解释覆盖度的新思路。该技术复用案例库中存在的优良反事实模式，以生成可解释新问题及其解决方案的类似反事实。若干实验展示了该技术如何改善先前被发现不足的案例库的反事实潜力与解释覆盖度。
引用
@article{arxiv.2005.13997,
title = {Good Counterfactuals and Where to Find Them: A Case-Based Technique for Generating Counterfactuals for Explainable AI (XAI)},
author = {Mark T. Keane and Barry Smyth},
journal= {arXiv preprint arXiv:2005.13997},
year = {2020}
}
备注
15 pages, 3 figures