基于联邦生成对抗网络的医学图像合成中的后门攻击与防御
计算机视觉与模式识别
2023-07-18 v3 人工智能
密码学与安全
机器学习
摘要
基于深度学习的图像合成技术已应用于医疗研究,用于生成医学图像以支持开放研究并扩充医学数据集。训练生成对抗神经网络(GANs)通常需要大量训练数据。联邦学习(FL)提供了一种利用分布式数据训练中心模型同时保留原始数据本地化的方式。然而,鉴于 FL 服务器无法访问原始数据,它易受后门攻击——一种通过投毒训练数据的对抗手段。大多数后门攻击策略聚焦于分类模型和集中式领域。现有后门攻击是否会影响 GAN 训练,以及若会则如何在 FL 设定下防御该攻击,仍是一个开放问题。在这项工作中,我们调查了联邦 GANs(FedGANs)中被忽视的后门攻击问题。该攻击的成功随后被确定为某些局部判别器过拟合投毒数据并破坏局部 GAN 均衡的结果,这进而在平均生成器参数时污染其他客户端并导致高生成器损失。因此,我们提出了 FedDetect,一种在 FL 设定下防御后门攻击的高效且有效的方法,它允许服务器基于各客户端的损失检测其对抗行为并阻断恶意客户端。我们在两个不同模态的医学数据集上的大量实验表明,对 FedGANs 的后门攻击可导致合成图像保真度低。在使用所提防御策略检测并抑制检测到的恶意客户端后,我们展示了 FedGANs 能够合成高质量医学数据集(带标签)用于数据增强以提升分类模型性能。
引用
@article{arxiv.2210.10886,
title = {Backdoor Attack and Defense in Federated Generative Adversarial Network-based Medical Image Synthesis},
author = {Ruinan Jin and Xiaoxiao Li},
journal= {arXiv preprint arXiv:2210.10886},
year = {2023}
}
备注
25 pages, 7 figures. arXiv admin note: text overlap with arXiv:2207.00762