利用深度神经网络分类器对医学图像分割的隐蔽攻击
图像与视频处理
2022-01-31 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
我们不使用当前的深度学习分割模型(如 UNet 及其变体)，而是使用训练好的卷积神经网络(CNN)分类器来处理分割问题，该类分类器从图像中自动提取重要特征用于分类。这些提取的特征可通过梯度加权类激活映射(Grad-CAM)可视化并构成为热图。本研究测试了这些热图是否可用于分割分类目标。我们还提出了一种热图评估方法：即用热图滤波后的图像重新训练 CNN 分类器并检验其性能。我们使用平均 Dice 系数评估分割结果。实验结果表明，热图能够定位并分割部分肿瘤区域。但仅使用 CNN 分类器的热图可能不是最优的分割方法。我们验证了 CNN 分类器的预测主要依赖于肿瘤区域，且 Grad-CAM 热图中的暗区也对分类有贡献。
引用
@article{arxiv.2201.02771,
title = {A Sneak Attack on Segmentation of Medical Images Using Deep Neural Network Classifiers},
author = {Shuyue Guan and Murray Loew},
journal= {arXiv preprint arXiv:2201.02771},
year = {2022}
}
备注
8 pages, 10 figures. Accepted by IEEE AIPR 2021 (Oral)