防御医学影像 AI 系统上的对抗攻击：分类还是检测？
机器学习
2020-06-25 v1 计算机视觉与模式识别
图像与视频处理
摘要
疾病分类与分割等医学影像 AI 系统正日益受到基于计算机视觉的 AI 系统的启发并随之变革。尽管已开发一系列基于对抗训练和/或损失函数的防御技术，并被证明在计算机视觉中有效，但由于以下独特挑战，防御医学图像上的对抗攻击在很大程度上仍属未知领域：1）医学图像中标签稀缺显著限制了 AI 系统的对抗可泛化性；2）医学图像中高度相似且占主导的前景与背景，使得学习不同疾病类别间判别特征变得困难；3）添加到整张医学图像上的精心构造对抗噪声，相较于聚焦器官目标，可使干净样本与对抗样本比不同疾病类别间更易区分。本文中，我们提出一种基于半监督对抗训练（SSAT）和无监督对抗检测（UAD）的新型鲁棒医学影像 AI 框架，并据此设计一种评估系统对抗风险的新度量。我们利用基准 OCT 成像数据集，在多种真实世界对抗攻击设定下，系统性展示了我们的鲁棒医学影像 AI 系统相对于现有对抗防御技术的优势。
引用
@article{arxiv.2006.13555,
title = {Defending against adversarial attacks on medical imaging AI system, classification or detection?},
author = {Xin Li and Deng Pan and Dongxiao Zhu},
journal= {arXiv preprint arXiv:2006.13555},
year = {2020}
}