基于分层特征隐藏的对抗性医学图像
图像与视频处理
2023-12-07 v1 计算机视觉与模式识别
机器学习
摘要
基于深度学习的医学图像方法容易受到对抗样本(AE)的攻击,这在临床决策中构成了严重的安全缺陷。研究发现,诸如 PGD 这类通过优化分类 logits 的传统对抗攻击方法,在特征空间中易于区分,从而能够被反应式防御准确识别。为了更好地理解这一现象并重新评估针对医学对抗样本的反应式防御的可靠性,我们对传统医学对抗样本的特征进行了深入研究。具体而言,我们首先从理论上证明,传统对抗攻击通过沿固定方向持续优化易受攻击的特征来改变输出,从而在特征空间中产生离群表示。随后,我们通过与自然图像的对比进行了压力测试,以揭示医学图像的脆弱性。有趣的是,这种脆弱性是一把双刃剑,可以被利用来隐藏对抗样本。接着,我们提出了一种简单而有效的分层特征约束(HFC),作为传统白盒攻击的一种新型附加组件,用于将对抗特征隐藏在目标特征分布内。所提出的方法在三个涵盖不同模态的 2D 和 3D 医学数据集上进行了评估。实验结果证明了 HFC 的优越性,即它能够比现有的自适应攻击更高效地绕过一系列最先进的医学对抗样本检测器,这揭示了医学反应式防御的不足,并为未来开发更为鲁棒的防御方法提供了可能。
引用
@article{arxiv.2312.01679,
title = {Adversarial Medical Image with Hierarchical Feature Hiding},
author = {Qingsong Yao and Zecheng He and Yuexiang Li and Yi Lin and Kai Ma and Yefeng Zheng and S. Kevin Zhou},
journal= {arXiv preprint arXiv:2312.01679},
year = {2023}
}
备注
Our code is available at \url{https://github.com/qsyao/Hierarchical_Feature_Constraint}. arXiv admin note: text overlap with arXiv:2012.09501