对解释的人类可解释性的评估
机器学习
2019-08-30 v2 机器学习
摘要
近年来，能够提供对其预测或决策的人类可理解依据的机器学习系统引起了浓厚兴趣。然而，究竟哪些类型的解释真正具有人类可解释性仍知之甚少。本工作增进了我们在用户可能使用机器学习系统执行的三个特定任务下对解释可解释性成因的理解：响应模拟、建议响应的验证，以及判断建议响应的正确性在输入改变时是否变化。通过严格控制的人体受试者实验，我们确定了可用于优化机器学习系统可解释性的正则化项。我们的结果表明，复杂性的类型至关重要：认知块（新定义的概念）比变量重复对性能的影响更大，并且这些趋势在任务和领域间一致。这表明解释系统可能存在一些共同的设计原则。
引用
@article{arxiv.1902.00006,
title = {An Evaluation of the Human-Interpretability of Explanation},
author = {Isaac Lage and Emily Chen and Jeffrey He and Menaka Narayanan and Been Kim and Sam Gershman and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:1902.00006},
year = {2019}
}
备注
arXiv admin note: substantial text overlap with arXiv:1802.00682