极简解释：捕捉决策的本质
人机交互
2019-05-09 v1
摘要
复杂机器学习模型的使用可能使系统对用户不透明。机器学习研究提出使用事后解释。然而，目前尚不清楚它们是否能让用户洞察原本不可解释的模型。一种解释深度神经网络图像分类的极简方式是仅展示对标签指派起决定性作用的区域。在一项试点研究中，20名参与者查看了14个此类解释，这些解释或由人类生成，或由LIME算法生成。对于正确决策的解释，他们识别所解释对象的准确率显著更高（75.64% vs. 18.52%）。我们认为这表明解释可以非常极简，同时保留决策的本质，但能以这种方式传达的决策情境是有限的。最后，我们发现解释因解释者而异，且人类生成的解释获得的信任评分高出79%。作为进一步研究的起点，本工作分享了我们对事后解释质量标准的初步见解。
引用
@article{arxiv.1905.02994,
title = {Minimalistic Explanations: Capturing the Essence of Decisions},
author = {Martin Schuessler and Philipp Weiß},
journal= {arXiv preprint arXiv:1905.02994},
year = {2019}
}