medXGAN：通过生成潜空间为医学分类器提供视觉解释
计算机视觉与模式识别
2022-04-19 v2
摘要
尽管过去十年深度学习激增，一些用户因其黑盒性质而对在实际中部署这些模型持怀疑态度。具体而言，在存在严重潜在后果的医学领域，我们需要开发方法来对模型决策建立信心。为此，我们提出一种新颖的医学影像生成对抗框架 medXGAN（medical eXplanation GAN，医学解释 GAN），以视觉方式解释医学分类器在其二分类预测中关注的内容。通过编码医学图像的领域知识，我们能够解耦解剖结构与病理，从而通过潜空间插值实现细粒度可视化。此外，我们优化潜空间使得插值能解释特征如何贡献于分类器输出。我们的方法在定位与解释能力上优于 Gradient-Weighted Class Activation Mapping (Grad-CAM) 与 Integrated Gradients 等基线。另外，medXGAN 与 Integrated Gradients 的结合可产生对噪声更鲁棒的解释。代码见：https://avdravid.github.io/medXGAN_page/。
引用
@article{arxiv.2204.05376,
title = {medXGAN: Visual Explanations for Medical Classifiers through a Generative Latent Space},
author = {Amil Dravid and Florian Schiffers and Boqing Gong and Aggelos K. Katsaggelos},
journal= {arXiv preprint arXiv:2204.05376},
year = {2022}
}
备注
10 pages, 11 figures, accepted to CVPR TCV workshop