基于生成对抗网络潜空间遍历的卷积神经网络视觉解释方法
计算机视觉与模式识别
2021-11-03 v2 人工智能
机器学习
图像与视频处理
摘要
人工智能尤其是深度神经网络缺乏可解释性，仍是模型实际部署中的瓶颈。梯度加权类激活映射（Grad-CAM）等流行技术提供了图像中显著特征的粗略热力图，但很少能完整揭示卷积神经网络（CNN）所学到的全部内容。利用 COVID-19 胸部 X 光片，我们提出了一种借助生成对抗网络（GANs）来解释 CNN 所学内容的方法。我们的 GAN 框架将肺部结构与 COVID-19 特征解耦。使用该 GAN，我们可通过在 GAN 的潜空间中进行插值，可视化胸部放射片中一对 COVID 阴性肺向一对 COVID 阳性肺的转化过程，从而细粒度地展示 CNN 如何对肺内不同特征作出响应。
引用
@article{arxiv.2111.00116,
title = {Visual Explanations for Convolutional Neural Networks via Latent Traversal of Generative Adversarial Networks},
author = {Amil Dravid and Aggelos K. Katsaggelos},
journal= {arXiv preprint arXiv:2111.00116},
year = {2021}
}
备注
2 pages, 2 figures, to appear as extended abstract at AAAI-22