可解释 AI 究竟意味着什么?视角的新概念化
人工智能
2017-10-03 v1
摘要
我们刻画了贯穿各研究领域的三种可解释 AI 概念:不提供对其算法机制洞察的不透明系统;用户能够从数学上分析其算法机制的可解释系统;以及发出符号以使用户能够自行解释结论如何得出的可理解系统。本文的动机源于对 NIPS、ACL、COGSCI 和 ICCV/ECCV 论文标题的语料库分析,这些分析展示了可解释 AI 研究在不同领域中的定位差异。最后,我们引入第四种概念:真正可解释的系统,其中自动推理是生成输出的精心设计的解释的核心,而无需将人工后处理作为生成过程的最后一步。
引用
@article{arxiv.1710.00794,
title = {What Does Explainable AI Really Mean? A New Conceptualization of Perspectives},
author = {Derek Doran and Sarah Schulz and Tarek R. Besold},
journal= {arXiv preprint arXiv:1710.00794},
year = {2017}
}