用户对基于可解释人工智能的医学诊断支持系统的信任
人机交互
2022-04-27 v1
摘要
近期研究支持系统可解释性可提升用户对医学AI用于诊断支持的信任与使用意愿。在本文中，我们以基于X射线图像的胸部疾病诊断为案例研究来调查用户信任与依赖。在可解释性基础上，我们提出一种支持系统，用户（放射科医生）可查看最终决策的因果解释。观察这些因果解释后，用户给出对模型预测的意见，若不同意可纠正解释。我们将用户信任度量定义为模型与放射科医生诊断的一致程度以及放射科医生对模型解释的反馈。此外，他们报告了对系统的信任度。我们在CXR-Eye数据集上测试模型，总体准确率达74.1%。然而，用户研究中的专家仅在46.4%的病例中同意模型，表明提升信任的必要性。自报告信任评分为1.0至5.0量表上的3.2，显示用户倾向于信任模型但信任仍需增强。
引用
@article{arxiv.2204.12230,
title = {User Trust on an Explainable AI-based Medical Diagnosis Support System},
author = {Yao Rong and Nora Castner and Efe Bozkir and Enkelejda Kasneci},
journal= {arXiv preprint arXiv:2204.12230},
year = {2022}
}
备注
10 pages