FIBA：基于频率注入的医学图像分析后门攻击
计算机视觉与模式识别
2022-04-15 v2 人工智能
摘要
近年来，AI 系统的安全性引起了越来越多的研究关注，尤其在医学影像领域。为开发安全的医学图像分析（MIA）系统，必须研究可能的后门攻击（BA），其可将隐藏的恶意行为嵌入系统。然而，由于成像模态（如 X 光、CT 和 MRI）与分析任务（如分类、检测和分割）的多样性，设计一种可应用于各类 MIA 系统的统一 BA 方法颇具挑战。现有多数 BA 方法旨在攻击自然图像分类模型，其对训练图像施加空间触发器并不免破坏中毒像素的语义，导致对密集预测模型的攻击失败。为解决该问题，我们提出一种新颖的基于频率注入的后门攻击方法（FIBA），能够在多种 MIA 任务中实施攻击。具体而言，FIBA 在频域利用触发器函数，通过线性组合两幅图像的频谱幅度，将触发器图像低频信息注入中毒图像。由于保留了中毒图像像素的语义，FIBA 可对分类与密集预测模型均发起攻击。在 MIA 的三个基准（即皮肤病变分类的 ISIC-2019、肾肿瘤分割的 KiTS-19 和内窥镜伪影检测的 EAD-2019）上的实验，验证了 FIBA 的有效性及其相对于 SOTA 方法在攻击 MIA 模型及绕过后门防御方面的优越性。源代码将发布于 https://github.com/HazardFY/FIBA。
引用
@article{arxiv.2112.01148,
title = {FIBA: Frequency-Injection based Backdoor Attack in Medical Image Analysis},
author = {Yu Feng and Benteng Ma and Jing Zhang and Shanshan Zhao and Yong Xia and Dacheng Tao},
journal= {arXiv preprint arXiv:2112.01148},
year = {2022}
}
备注
Accepted by CVPR 2022