解释质量度量：系统因果性量表（SCS）——人机解释的对比
人工智能
2021-03-03 v1
摘要
人工智能（AI）与机器学习（ML）近期的成功使得无需任何人工干预即可自动解决问题。自主方法可能非常便利。然而，在某些领域，例如医疗领域，有必要使领域专家能够理解算法为何得出某一结果。因此，可解释 AI（xAI）领域在全球各领域中迅速受到关注，尤其在医学中。可解释 AI 研究不透明 AI/ML 的透明性与可追溯性，且已有大量方法。例如，通过逐层相关性传播，可高亮导致某一结果的神经网络输入及表示中的相关部分。这是确保最终用户（如医疗专业人员）对借助 AI/ML 的决策负责的第一步，并且对专业人员和监管者均有意义。交互式 ML 通过使人类专家能够重演和追溯 AI/ML 结果（例如检查其合理性）将人类专业知识组件加入 AI/ML 过程。这需要用于可解释 AI 的新型人机接口。为构建高效且有效的交互式人机接口，我们必须处理如何评估可解释 AI 系统所提供解释质量的问题。本文中，我们引入系统因果性量表（SCS）以度量解释质量。它基于我们的因果性概念（Holzinger 等，2019）并结合广泛接受的可用性量表中的适配概念。
引用
@article{arxiv.1912.09024,
title = {Measuring the Quality of Explanations: The System Causability Scale (SCS). Comparing Human and Machine Explanations},
author = {Andreas Holzinger and André Carrington and Heimo Müller},
journal= {arXiv preprint arXiv:1912.09024},
year = {2021}
}
备注
6 pages, 1 figure, 1 table, will appear in Springer/Nature KI - K\"unstliche Intelligenz (2020), Volume 34, Issue 2