深度神经网络用于医学图像分析的透明性：可解释性方法综述
图像与视频处理
2021-11-05 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
人工智能已成为诊断和治療决策中许多临床应用的有用辅助手段。由于可用数据和计算能力的快速增长，深度神经网络在许多任务中表现出与临床医生相当或更好的性能。为了符合可信赖人工智能的原则，人工智能系统必须透明、鲁棒、公平并确保可问责。当前的深度神经解决方案由于缺乏对其决策过程具体细节的理解而被称为黑箱。因此，在将深度神经网络纳入常规临床工作流之前，有必要确保其可解释性。在本叙述性综述中，我们利用系统性关键词检索和领域专业知识，基于所生成解释的类型和技术相似性，确定了用于理解医学图像分析应用中深度学习模型的九种不同类型的可解释性方法。此外，我们报告了在评估各种可解释性方法所产生的解释方面取得的进展。最后，我们讨论了局限性，提供了使用可解释性方法的指南，并展望了医学影像分析中深度神经网络可解释性的未来方向。
引用
@article{arxiv.2111.02398,
title = {Transparency of Deep Neural Networks for Medical Image Analysis: A Review of Interpretability Methods},
author = {Zohaib Salahuddin and Henry C Woodruff and Avishek Chatterjee and Philippe Lambin},
journal= {arXiv preprint arXiv:2111.02398},
year = {2021}
}