可解释性至关重要：针对医学影像的后门攻击
密码学与安全
2021-01-05 v1 计算机视觉与模式识别
机器学习
图像与视频处理
摘要
深度神经网络已被证明易受后门攻击，此类攻击可在模型训练前轻易植入训练集。近期工作聚焦于研究自然图像或玩具数据集上的后门攻击。因此，在复杂的现实应用（如误诊代价极高的医学影像）中，后门的确切影响尚不完全清楚。本文以攻击者能够操纵训练数据集实施攻击为假设，探究后门攻击对基于胸部 X 光的多标签疾病分类任务的影响。对最先进架构的广泛评估表明，通过在训练集中引入少量像素扰动的图片，攻击者无需参与训练过程即可成功实施后门。一个简单的 33 像素触发器在感染图像集上可达到 1.00 的受试者工作特征曲线下面积（AUROC）。在干净图像集上，被植入后门的神经网络仍可达到 0.85 的 AUROC，凸显了攻击的隐蔽性。随着基于深度学习的诊断系统在临床实践中的普及，我们还展示了在此背景下可解释性不可或缺，因为它能在推理时识别空间局部化的后门。
引用
@article{arxiv.2101.00008,
title = {Explainability Matters: Backdoor Attacks on Medical Imaging},
author = {Munachiso Nwadike and Takumi Miyawaki and Esha Sarkar and Michail Maniatakos and Farah Shamout},
journal= {arXiv preprint arXiv:2101.00008},
year = {2021}
}