医学图像分割模型对对抗攻击的易感性
图像与视频处理
2024-01-23 v1 计算机视觉与模式识别
摘要
深度神经网络的本质引发了各种各样的攻击,但针对在 MRI 数据集上训练的分割模型对抗攻击影响的研究工作甚少。鉴于此类攻击可能造成的严重后果,我们探索了 U-Net 家族中的四种模型,并检验了它们对快速梯度符号法(FGSM)攻击的响应。我们对每种模型进行了 FGSM 攻击,并尝试了各种方案来实施攻击。在本文中,我们发现医学成像分割模型确实容易受到对抗攻击,并且参数大小与对抗攻击成功率之间的相关性微乎其微。此外,我们表明,使用与训练时不同的损失函数会产生更高的对抗攻击成功率,这与 FGSM 作者的建议相反。在未来的工作中,我们将使用更多的分割模型和不同的攻击来进行本文详述的实验。我们还将尝试通过使用模型集成或特殊的数据增强来寻找对抗攻击的方法。我们的代码可在 https://github.com/ZhongxuanWang/adv_attk 获取。
引用
@article{arxiv.2401.11224,
title = {Susceptibility of Adversarial Attack on Medical Image Segmentation Models},
author = {Zhongxuan Wang and Leo Xu},
journal= {arXiv preprint arXiv:2401.11224},
year = {2024}
}
备注
6 pages, 8 figures, presented at 2023 IEEE 20th International Symposium on Biomedical Imaging (ISBI) conference