后门攻击：联邦 GAN 医学图像合成中的隐患
计算机视觉与模式识别
2022-08-02 v2 人工智能
摘要
基于深度学习的图像合成技术已应用于医疗研究以生成医学图像来支持开放研究。训练生成对抗网络（GAN）通常需要大量训练数据。联邦学习（FL）提供了一种利用来自不同医疗机构的分布式数据训练中心模型且保持原始数据本地化的方式。然而，鉴于中心服务器无法直接访问原始数据，FL 易受后门攻击这一通过投毒训练数据进行的对抗攻击。大多数后门攻击策略聚焦于分类模型和集中式领域。本研究中，我们提出一种攻击联邦 GAN（FedGAN）的方式，通过对判别器施加后门攻击分类模型中常用的数据投毒策略。我们证明添加尺寸小于原始图像尺寸 0.5% 的小触发器即可破坏 FL-GAN 模型。基于所提攻击，我们提供两种有效防御策略：全局恶意检测与本地训练正则化。我们展示结合两种防御策略可产生鲁棒的医学图像生成。
引用
@article{arxiv.2207.00762,
title = {Backdoor Attack is a Devil in Federated GAN-based Medical Image Synthesis},
author = {Ruinan Jin and Xiaoxiao Li},
journal= {arXiv preprint arXiv:2207.00762},
year = {2022}
}
备注
13 pages, 4 figures, Accepted by MICCAI 2022 SASHIMI Workshop