基于深度学习的计算机辅助诊断系统解释中的成就与挑战
人工智能
2020-11-30 v1
摘要
现代基于图像的 AI 方法的显著成功及其在关键决策过程中应用的兴起，导致了使此类智能系统透明且可解释的努力激增。对可解释 AI 的需求不仅源于伦理与道德考量，也来自全球更严格的立法，要求对 AI 采取或辅助的任何决策提供清晰且合理的解释。尤其在医疗背景下，计算机辅助诊断可直接影响患者的治疗与福祉，安全性从实验室研究向真实临床实践过渡时透明性至关重要。本文全面概述了在医学研究与疾病诊断应用中解释和解读基于深度学习的算法的当前最先进技术。我们讨论了可解释 AI 在验证已知疾病标准、探索新的潜在生物标志物以及后续 AI 模型校正方面的早期成就。诸如视觉、文本、事后、事前、局部和全局等多种解释方法已被透彻且批判性地分析。随后，我们也强调了作为临床决策支持工具的 AI 实际应用道路上剩余的若干挑战，并为未来研究方向提供建议。
引用
@article{arxiv.2011.13169,
title = {Achievements and Challenges in Explaining Deep Learning based Computer-Aided Diagnosis Systems},
author = {Adriano Lucieri and Muhammad Naseer Bajwa and Andreas Dengel and Sheraz Ahmed},
journal= {arXiv preprint arXiv:2011.13169},
year = {2020}
}
备注
17 pages, 2 figures