理解基于深度学习的医学图像分析系统中的对抗攻击

深度神经网络（DNN）已广泛用于癌症诊断与病灶检测等医学图像分析任务。然而，近期一项研究表明，医学深度学习系统可能被精心构造的对抗样本/攻击所破坏，这些攻击带有微小且难以察觉的扰动。这引发了关于此类系统在临床环境中部署的安全担忧。本文中，我们针对医学图像背景下的对抗样本提供了更深入的理解。从两种不同的视角出发，我们发现医学 DNN 模型相比自然图像模型对对抗攻击更为脆弱。令人惊讶的是，我们还发现医学对抗攻击易被检测，即由于与正常样本相比存在根本性的特征差异，简单检测器即可针对最先进的攻击实现超过 98% 的检测 AUC。我们相信这些发现可作为设计更具可解释性与安全性的医学深度学习系统的有益基础。