基于知识的可解释人工智能：模型能告诉我们的解释之外还有更多
人工智能
2021-08-25 v1
摘要
基于知识的可解释人工智能的基本假设是，以数据为中心的人工智能智能体（例如神经网络）所需的数据，在内容上不如向人类解释此类智能体决策所需的数据那样多样化。其思想是，分类器可以使用从一个视角表达现象的数据获得高精度，而解释的受众可能涉及多个利益相关者，并涵盖不同的视角。因此，我们提出使用领域知识来补充智能体所使用的数据。我们将基于知识的可解释人工智能形式化为一个与基于案例推理（CBR）方法论相一致的监督数据分类问题。在此形式化中，输入是由以数据为中心的智能体的输入和输出组成的案例问题，而案例解决方案，即输出，是从领域知识和领域专家获得的解释类别。这种形式化通常不会导致精确的分类，从而阻碍了正确解释类别的选择。基于知识的可解释人工智能通过添加与领域知识相一致的特征来扩展此形式化中的数据，这些特征可以提高选择解释类别时的准确性。
引用
@article{arxiv.2108.10363,
title = {Knowledge-based XAI through CBR: There is more to explanations than models can tell},
author = {Rosina Weber and Manil Shrestha and Adam J Johs},
journal= {arXiv preprint arXiv:2108.10363},
year = {2021}
}
备注
12 pages, 8 figures. This paper was accepted at workshop XCBR: Case-Based Reasoning for the Explanation of Intelligent Systems at ICCBR 2021