以证据权重作为面向人类可解释性的解释基础

可解释性是现代机器学习方法一个难以捉摸但备受追捧的特性。近期工作聚焦于通过$\textit{解释}$（explanations）实现可解释性，即为单个模型预测提供合理性说明。在本工作中，我们受哲学、认知科学与社会科学中对解释研究的启发，朝着调和机器解释与人类所产生及偏好的解释迈出一步。我们识别出这些人类解释与当前机器解释的关键差异，将其提炼为一组期望性质，并通过信息论中的$\textit{证据权重}$（weight of evidence）概念将其形式化为一个框架。最后，我们在两个简单应用中实例化该框架，并表明其能产生直观且易于理解的解释。