可解释人工智能在医疗领域的应用:系统性综述
人工智能
2023-08-11 v1 机器学习
摘要
医学中的人工智能已在医学影像、患者护理及其他领域的新兴应用中取得显著进展。尽管这些应用在回顾性研究中已被证明成功,但极少有在实际应用中部署。医疗AI领域面临诸多挑战,包括建立用户信任、遵守法规、合乎道德地使用数据。可解释人工智能(XAI)旨在使人类理解AI并信任其结果。本文基于近年来发表的198篇文章的代表性样本,对医疗决策支持XAI解决方案的最新进展进行了文献综述。对相关文章的系统性综合得出了若干发现:(1)这些解决方案中大多采用模型无关的XAI技术,(2)深度学习模型的使用多于其他类型的机器学习模型,(3)可解释性被用于促进信任,但极少有工作报告了医生在回路中的参与,(4)视觉和交互式用户界面在理解系统解释与推荐方面更有用。医学与AI专家之间需要更多合作研究,以指导适用于医学XAI解决方案设计、实现和评估的合适框架的开发。
引用
@article{arxiv.2308.05411,
title = {Explainable AI applications in the Medical Domain: a systematic review},
author = {Nicoletta Prentzas and Antonis Kakas and Constantinos S. Pattichis},
journal= {arXiv preprint arXiv:2308.05411},
year = {2023}
}