基于案例的推理如何解释神经网络：ANN-CBR 孪生中事后例示解释的可解释 AI 综述
人工智能
2021-04-21 v1
摘要
本文综述了一种解决 XAI（可解释人工智能）问题的方法，即使用事后例示解释，该方法依赖于将人工神经网络（ANN）与基于案例的推理（CBR）系统配对，即所谓的 ANN-CBR 孪生。我们对 1100+ 篇论文进行了系统综述，以识别该主题上碎片化的文献，并追踪其对涉及深度神经网络（DNN）的近期工作的影响。本文主张，这种孪生系统方法，特别是使用 ANN-CBR 孪生，提出了一种可能的连贯的、通用的 XAI 问题（事实上也是 XCBR 问题）解决方案。本文最后通过路线图规划了该 XAI 解决方案的一些未来方向，包括（i）对特征加权技术的进一步测试，（ii）探索解释性案例可能的最佳部署方式（例如，反事实、近失案例、a fortori 案例），以及（iii）提出不受欢迎且被大量忽视的关于人类用户评估的问题。
引用
@article{arxiv.1905.07186,
title = {How Case Based Reasoning Explained Neural Networks: An XAI Survey of Post-Hoc Explanation-by-Example in ANN-CBR Twins},
author = {Mark T Keane and Eoin M Kenny},
journal= {arXiv preprint arXiv:1905.07186},
year = {2021}
}
备注
15 pages