我们是否应信任(可解释)人工智能?面向结构化实验评估的设计维度
人机交互
2020-09-15 v1 人工智能
摘要
本文系统地推导了用于可解释人工智能(XAI)方法结构化评估的设计维度。这些维度支持描述性刻画,便于不同研究设计之间的比较。它们进一步构建了XAI的设计空间,并趋向于XAI严谨研究所需的精确术语。我们的文献综述区分了比较研究与应用论文,揭示了机器学习、人机交互与可视化分析等领域间的方法论差异。总体而言,这些学科各自针对XAI流程的特定环节。弥合由此产生的鸿沟能够实现XAI在真实场景中的整体评估,正如我们刻画偏差来源与信任构建的概念模型所提出的那样。此外,我们基于观察到的研究空白识别并讨论了未来工作的潜力,这些空白应促成对所提出模型的更好覆盖。
引用
@article{arxiv.2009.06433,
title = {Should We Trust (X)AI? Design Dimensions for Structured Experimental Evaluations},
author = {Fabian Sperrle and Mennatallah El-Assady and Grace Guo and Duen Horng Chau and Alex Endert and Daniel Keim},
journal= {arXiv preprint arXiv:2009.06433},
year = {2020}
}
备注
18pages, 2 figures, 2 tables