何为好的解释？：解释性质的协调视角

可解释性为人类验证机器学习（ML）模型的各个方面提供了一种手段，并在任务无法完全自动化的情境中赋能人机协作。不同的情境需要具有不同性质的解释。例如，判断早期心脏骤停预警系统是否准备好集成到护理环境中所需要的解释，与帮助贷款申请人确定其为使申请成功可能需要采取的行动所需的解释类型截然不同。遗憾的是，在解释性质方面缺乏标准化：不同论文可能用同一术语表示不同量，又用不同术语表示同一量。这种对 ML 解释性质缺乏标准化术语与分类的现状，阻碍了我们对可解释机器学习方法进行严格比较，以及识别何种情境需要何种性质。在本工作中，我们综述了可解释机器学习论文中定义的性质，基于其实际度量的内容对其进行综合，并描述了这些性质不同表述之间的权衡。借此，我们得以更明智地选择适合任务的解释性质表述，并为可解释机器学习的未来工作提供标准化基础。