一种解释并不适用于所有人：交互式解释对机器学习透明性的前景
机器学习
2020-02-11 v1 人工智能
机器学习
摘要
基于机器学习算法的预测系统对透明性的需求，源于其在工业界日益广泛的应用。每当黑盒算法预测影响人类事务时，这些算法的内部机制应受审查，并将其决策向相关利益方（包括系统工程师、系统操作员以及个案被裁决的个人）作出解释。尽管已有多种可解释性与可说明性方法，但它们中没有一种是能满足相关各方可能要求的各种不同期望与竞争目标的万灵药。我们在本文中通过讨论交互式机器学习（Interactive Machine Learning）在使用对比解释（一种最先进的可解释机器学习方法）实例方面对黑盒系统透明性的改进前景，来应对这一挑战。具体而言，我们展示如何通过交互式调整反事实解释的条件语句来实现个性化，并通过追问“如果……会怎样？”的后续问题来提取附加解释。我们在构建、部署和展示此类系统中的经验使我们能够列出期望性质及潜在局限，可用于指导交互式解释器的开发。虽然定制交互媒介（即由多种沟通渠道组成的用户界面）可能给人以个性化的印象，但我们认为调整解释本身及其内容更为重要。为此，除明确告知被解释者其局限与注意事项外，还必须考虑解释的宽度、范围、语境、目的与对象等性质……
引用
@article{arxiv.2001.09734,
title = {One Explanation Does Not Fit All: The Promise of Interactive Explanations for Machine Learning Transparency},
author = {Kacper Sokol and Peter Flach},
journal= {arXiv preprint arXiv:2001.09734},
year = {2020}
}
备注
Published in the Kunstliche Intelligenz journal, special issue on Challenges in Interactive Machine Learning