对抗样本对生物医学图像分割深度学习模型的影响
图像与视频处理
2019-08-01 v1 密码学与安全
计算机视觉与模式识别
机器学习
机器学习
摘要
深度学习模型正日益用于医学图像分析领域，但其带来一个重大安全风险，即易受对抗样本的攻击。对抗样本是精心构造的样本，用于在测试时迫使机器学习模型出错。这些恶意样本已被证明在误导分类任务上极为有效。然而，关于对抗样本对分割影响的研究明显不足。鉴于医学成像问题很大一部分实质上是分割问题，我们分析了对抗样本对基于深度学习的图像分割模型的影响。具体而言，我们通过提出自适应分割掩码攻击（ASMA）揭示了这些模型对对抗样本的脆弱性。该新颖算法使得构造目标对抗样本成为可能，这些样本具有（1）目标对抗掩码与预测之间较高的交并比，以及（2）在大多数情况下人眼不可见的扰动。我们通过 ISIC 皮肤病变分割挑战和青光眼视盘分割问题所得结果给出实验与视觉证据。该算法的实现及额外示例可在 https://github.com/utkuozbulak/adaptive-segmentation-mask-attack 找到。
引用
@article{arxiv.1907.13124,
title = {Impact of Adversarial Examples on Deep Learning Models for Biomedical Image Segmentation},
author = {Utku Ozbulak and Arnout Van Messem and Wesley De Neve},
journal= {arXiv preprint arXiv:1907.13124},
year = {2019}
}
备注
Accepted for the 22nd International Conference on Medical Image Computing and Computer Assisted Intervention (MICCAI-19)