作为 XAI 一种通用解决方案的双系统方法：用于解释深度学习的 ANN-CBR 孪生系统综述
人工智能
2021-04-21 v1
摘要
双系统的概念被提出以解决可解释人工智能（XAI）问题，其中将一个不可解释的黑盒系统映射到一个更具可解释性的白盒“孪生”系统。在这篇短文中，我们概述了推进 XAI 问题通用解决方案（即所谓双系统方法）的最新工作。文献中最流行的孪生方式是以人工神经网络（ANN）作为黑盒、以基于案例的推理（CBR）系统作为白盒，后者作为前者的可解释代理。我们概述了近期复兴该思想并将其应用于深度学习方法的进展。此外，我们详述了此项工作可开展的诸多富有成效的方向；例如，确定（i）待使用的最准确特征加权方法，（ii）解释性案例的适当部署，（iii）对用户具有解释价值的有用案例。
引用
@article{arxiv.1905.08069,
title = {The Twin-System Approach as One Generic Solution for XAI: An Overview of ANN-CBR Twins for Explaining Deep Learning},
author = {Mark T. Keane and Eoin M. Kenny},
journal= {arXiv preprint arXiv:1905.08069},
year = {2021}
}
备注
5 pages