医疗健康领域可解释人工智能简述
人工智能
2023-04-05 v1
摘要
XAI 指构建 AI 应用的技术与方法，这些应用协助最终用户解释 AI 模型的输出与预测。在医疗等高风险决策场景中，黑盒 AI 应用的增加提升了对透明性与可解释性的需求，因为错误的预测可能带来严重后果。模型的可解释性与可诠释性对于 AI 模型在医疗实践中的成功部署至关重要。AI 应用的底层推理需要对临床医生透明，以赢得其信任。本文对医疗健康领域的 XAI 方面与挑战进行了系统性综述。本研究的主要目标是回顾医疗领域中各类 XAI 方法、其挑战以及相关的机器学习模型。这些方法在六类下讨论：面向特征的方法、全局方法、概念模型、代理模型、局部基于像素的方法以及以人为中心的方法。最为重要的是，本文探讨了 XAI 在医疗问题中的作用，以阐明其在安全关键应用中的必要性。本文旨在通过回顾相关实验结果，建立对医疗领域 XAI 相关应用的全面理解。为便于未来研究填补研究空白，本文从不同视角考察了 XAI 模型的重要性及其局限性。
引用
@article{arxiv.2304.01543,
title = {A Brief Review of Explainable Artificial Intelligence in Healthcare},
author = {Zahra Sadeghi and Roohallah Alizadehsani and Mehmet Akif Cifci and Samina Kausar and Rizwan Rehman and Priyakshi Mahanta and Pranjal Kumar Bora and Ammar Almasri and Rami S. Alkhawaldeh and Sadiq Hussain and Bilal Alatas and Afshin Shoeibi and Hossein Moosaei and Milan Hladik and Saeid Nahavandi and Panos M. Pardalos},
journal= {arXiv preprint arXiv:2304.01543},
year = {2023}
}