自适应对抗训练以提升 DNN 在医学图像分割与检测中的对抗鲁棒性
图像与视频处理
2022-06-23 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
众所周知，深度神经网络（DNNs）易受对抗攻击，且 DNNs 的对抗鲁棒性可通过向训练数据添加对抗噪声（如标准对抗训练（SAT））来提升。然而，向训练数据添加不恰当的噪声可能降低模型性能，这被称为准确率与鲁棒性之间的权衡。该问题已在整图分类中得到充分研究，但在医学应用领域的图像分析任务（包括图像分割、关键点检测和目标检测任务）中鲜有探讨。在本研究中，我们指出，对于这些医学图像分析任务，SAT 方法存在一个严重限制其实际使用的问题：它为所有训练样本生成固定且统一的噪声水平以进行鲁棒 DNN 训练。高噪声水平可能导致模型性能大幅下降，而低噪声水平可能无法有效提升鲁棒性。为解决该问题，我们设计了一种自适应边界对抗训练（AMAT）方法，为鲁棒 DNN 训练生成样本级自适应对抗噪声。与现有面向分类的对抗训练方法不同，我们的 AMAT 方法采用损失定义的边界策略，因此只要损失函数定义良好，便可应用于不同任务。我们成功将 AMAT 方法应用于最先进的 DNNs，使用了五个公开可用数据集。实验结果表明：（1）我们的 AMAT 方法可应用于医学图像应用领域中三个看似不同的任务；（2）AMAT 在对抗鲁棒性上优于 SAT 方法；（3）与 SAT 方法相比，AMAT 在干净数据上的预测准确率下降极小；且（4）AMAT 的训练时间开销与 SAT 几乎相同。
引用
@article{arxiv.2206.01736,
title = {Adaptive Adversarial Training to Improve Adversarial Robustness of DNNs for Medical Image Segmentation and Detection},
author = {Linhai Ma and Liang Liang},
journal= {arXiv preprint arXiv:2206.01736},
year = {2022}
}
备注
17 pages