为我播放 MNIST！关于事后基于示例的解释与错误率对调试深度学习中黑盒分类器影响的用户研究
机器学习
2020-09-15 v1 人机交互
摘要
本文报告了两个实验（N=349），研究事后基于示例的解释与错误率对人们感知黑盒分类器的影响。两个实验均表明，当人们从已实现的 ANN CBR 孪生系统获得基于案例的解释时，他们认为错误分类更为正确。实验还表明，当错误率升至 4% 以上时，人们对分类器的信任度降低，并认为其正确性、合理性与可信度更差。文中讨论了这些结果对可解释人工智能（XAI）的启示。
引用
@article{arxiv.2009.06349,
title = {Play MNIST For Me! User Studies on the Effects of Post-Hoc, Example-Based Explanations & Error Rates on Debugging a Deep Learning, Black-Box Classifier},
author = {Courtney Ford and Eoin M. Kenny and Mark T. Keane},
journal= {arXiv preprint arXiv:2009.06349},
year = {2020}
}
备注
2 Figures, 1 Table, 8 pages