通过潜变量偏移的 Gif 解释：一种用于胸部 X 光反事实生成的简单自编码器方法
计算机视觉与模式识别
2021-04-27 v2 人工智能
图像与视频处理
摘要
动机：传统图像归因方法难以令人满意地解释神经网络的预测。预测解释十分重要，尤其在医学影像中，可避免当假阳性预测影响患者护理时部署 AI 系统所带来的意外后果。因此，迫切需要对模型可解释性与内省开发改进模型。具体问题：一种新方法是变换输入图像以增强或减弱导致预测的特征。然而，当前方法难以实现，因为它们是整体式的或依赖 GAN。这些障碍阻碍了广泛采用。我们的方法：给定任意分类器，我们提出一种简单自编码器与梯度更新（Latent Shift），可变换特定输入图像的潜表示以夸大或削减用于预测的特征。我们使用该方法研究胸部 X 光分类器并评估其性能。我们与两名放射科医生进行了读者研究，评估240个胸部 X 光预测以识别其中的假阳性（其中一半是），使用传统归因图或我们提出的方法。结果：我们发现具有合理高准确率的模型与真实病理掩码重叠度低。然而，读者研究结果表明这些模型通常关注正确的特征。我们还发现，与传统方法相比，Latent Shift 解释使用户对真阳性预测更有信心（5分制中0.150.95，p=0.01），且仅小幅增加假阳性预测（0.041.06，p=0.57）。配套网页：https://mlmed.org/gifsplanation 源代码：https://github.com/mlmed/gifsplanation
引用
@article{arxiv.2102.09475,
title = {Gifsplanation via Latent Shift: A Simple Autoencoder Approach to Counterfactual Generation for Chest X-rays},
author = {Joseph Paul Cohen and Rupert Brooks and Sovann En and Evan Zucker and Anuj Pareek and Matthew P. Lungren and Akshay Chaudhari},
journal= {arXiv preprint arXiv:2102.09475},
year = {2021}
}
备注
Full paper at MIDL2021