医学影像机器学习中的可解释性框架
机器学习
2024-04-17 v3
摘要
医学影像中的机器学习模型可解释性（MLMI）是一个重要的研究方向。然而，对于可解释性究竟意味着什么，普遍存在一种模糊感。MLMI 中对可解释性的需求因何而生？当需要时，人们实际试图解决哪些目标？为回答这些问题，我们确认有必要对 MLMI 中可解释性的目标与要素进行形式化。通过推理医学图像分析及其与机器学习交叉领域中常见的真实世界任务与目标，我们识别出可解释性的五个核心要素：定位、视觉可辨识性、物理归因、模型透明性与可操作性。由此，我们得到一个 MLMI 可解释性框架，作为在此语境下处理可解释性的逐步指南。总体而言，本文形式化了医学影像语境下的可解释性需求，并且我们应用视角的澄清明确了具体的 MLMI 特定目标与考量，以指导方法设计并改进真实世界使用。我们的目标是为模型设计者与从业者提供实用与教学性信息，启发医学影像领域模型开发者更深入地思考可解释性所达成的目的，并建议可解释性研究的未来方向。
引用
@article{arxiv.2310.01685,
title = {A Framework for Interpretability in Machine Learning for Medical Imaging},
author = {Alan Q. Wang and Batuhan K. Karaman and Heejong Kim and Jacob Rosenthal and Rachit Saluja and Sean I. Young and Mert R. Sabuncu},
journal= {arXiv preprint arXiv:2310.01685},
year = {2024}
}
备注
Published in IEEE Access