勾勒面向医疗诊断的可解释智能系统的设计空间
人机交互
2019-02-19 v1 计算机与社会
摘要
智能系统的采用为医疗工作带来机遇与挑战。积极的一面是，智能系统有潜力计算来自患者的复杂数据并为医生生成自动化诊断建议。然而，医疗专业人员常将此类系统视为黑箱，因而对依赖系统生成结果进行决策感到担忧。本文从以人为中心的角度探讨解释这一概念，为可解释人工智能（XAI）的持续讨论做出贡献。我们假设，若系统被设计得如同医生般思考与行动，医疗专业人员便会认为其具有可解释性。我们报告了一项初步访谈研究，收集了六位医疗专业人员关于其在诊断与治疗中如何与数据交互的反思。我们的数据揭示了医生在其诊断过程中于何时及如何对各类数据排定优先级，以此作为核心环节。基于这些发现，我们勾勒了医疗情境下 XAI 系统设计的未来方向。
引用
@article{arxiv.1902.06019,
title = {Outlining the Design Space of Explainable Intelligent Systems for Medical Diagnosis},
author = {Yao Xie and Ge Gao and Xiang 'Anthony' Chen},
journal= {arXiv preprint arXiv:1902.06019},
year = {2019}
}
备注
6 pages, 2 figures, 2 tables