人类如何理解机器学习系统的解释？对解释的人类可解释性评估
人工智能
2018-02-05 v1
摘要
近年来，能够提供对其预测或决策的人类可理解依据的机器学习系统引起了广泛关注。然而，究竟哪些类型的解释真正具有人类可解释性仍知之甚少。本工作推进了我们对在验证这一特定背景下什么使解释可解释的理解。假设我们有一个预测X的机器学习系统，并且我们为该预测X提供理由。给定输入、解释和输出，输出是否与输入和所称理由一致？通过一系列用户研究，我们确定了哪些复杂度的增加对人类验证理由所需时间影响最大，以及哪些似乎相对不敏感。
引用
@article{arxiv.1802.00682,
title = {How do Humans Understand Explanations from Machine Learning Systems? An Evaluation of the Human-Interpretability of Explanation},
author = {Menaka Narayanan and Emily Chen and Jeffrey He and Been Kim and Sam Gershman and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:1802.00682},
year = {2018}
}