人机交互中的透明性与信任：基于计算机视觉的决策支持中模型无关解释的作用
人机交互
2020-07-14 v2
摘要
计算机视觉，以及基于人工智能的图像信息提取，近年来日益受到关注，例如在医学诊断中。尽管算法的复杂性是其性能提升的原因之一，但也导致了“黑箱”问题，从而降低了人们对 AI 的信任。在这方面，“可解释人工智能”（XAI）能够打开该黑箱并提升 AI 的透明程度。在本文中，我们首先讨论可解释性对 AI 信任的理论影响，随后展示在健康相关场景中 XAI 的使用样貌。更具体地，我们展示如何应用 XAI 来理解基于深度学习的计算机视觉为何在图像数据（薄血涂片载玻片图像）上检测到了或未能检测到一种疾病（疟疾）。此外，我们研究如何利用 XAI 来比较两种常用于计算机视觉的不同深度学习模型的检测策略：卷积神经网络（Convolutional Neural Network）与多层感知机（Multi-Layer Perceptron）。我们的实证结果表明：i) AI 有时使用了图像中存疑或无关的数据特征来检测疟疾（即使预测正确），以及 ii) 不同深度学习模型对同一预测的解释可能存在显著分歧。我们的理论讨论强调，XAI 可以支持对计算机视觉系统以及一般 AI 系统的信任，特别是通过增强可理解性与可预测性。
引用
@article{arxiv.2002.01543,
title = {Transparency and Trust in Human-AI-Interaction: The Role of Model-Agnostic Explanations in Computer Vision-Based Decision Support},
author = {Christian Meske and Enrico Bunde},
journal= {arXiv preprint arXiv:2002.01543},
year = {2020}
}