可解释 AI 与视觉推理：来自放射学的见解
人机交互
2023-04-10 v1 人工智能
摘要
为什么放射学中的可解释 AI（XAI）解释尽管承诺了透明度，却仍无法获得人类的信任？当前的 XAI 方法为预测提供了依据，然而这些方法并不能满足从业者的需求。这些 XAI 解释缺乏对给定分类证据基础的直观覆盖，构成了采用的重大障碍。我们认为，反映人类基于证据的推理和论证过程的 XAI 解释，可能比热图等传统视觉解释更有用、更值得信赖。通过一个放射学案例研究，我们展示了放射学从业者如何使其他从业者认同诊断结论的有效性。机器学习分类缺乏这种证据基础，因此无法激发潜在用户的信任和采用。本研究的见解可以推广为基于人类推理和证据论证的以人为中心的解释设计指导原则。
关键词
引用
@article{arxiv.2304.03318,
title = {Explainable AI And Visual Reasoning: Insights From Radiology},
author = {Robert Kaufman and David Kirsh},
journal= {arXiv preprint arXiv:2304.03318},
year = {2023}
}
备注
Accepted to 2023 Conference on Computer-Human Interaction (CHI) Human-Centered Explainable AI Workshop, 8 pages