MRxaI：医学场景下图像分类器的黑盒可解释性
计算机视觉与模式识别
2023-11-27 v1 人工智能
摘要
现有用于解释图像分类器输出的工具可分为白盒（依赖模型内部访问）与黑盒（与模型无关）两类。随着AI在医疗领域使用的增长，可解释性工具的使用也随之增加。现有医学图像解释工作聚焦于白盒工具，如gradcam。然而，转向黑盒工具具有明显优势，包括可与任意分类器配合使用以及可选择众多可用的黑盒工具。在标准图像上，黑盒工具与白盒工具同样精确。在本文中，我们在脑癌MRI数据集上比较了若干黑盒方法与gradcam的性能。我们证明大多数黑盒工具并不适合解释医学图像分类，并详细分析了其缺陷原因。我们还表明，一种基于因果可解释性的黑盒工具rex表现与\gradcam相当。
引用
@article{arxiv.2311.14471,
title = {MRxaI: Black-Box Explainability for Image Classifiers in a Medical Setting},
author = {Nathan Blake and Hana Chockler and David A. Kelly and Santiago Calderon Pena and Akchunya Chanchal},
journal= {arXiv preprint arXiv:2311.14471},
year = {2023}
}