医学联邦学习的隐藏对抗脆弱性
机器学习
2023-10-24 v1 人工智能
摘要
本文深入探究联邦医学图像分析系统对对抗攻击的易感性。我们的分析揭示了一种新颖的利用途径：利用先前全局模型更新的梯度信息，攻击者能够提升其攻击的效率与可迁移性。具体而言，我们证明单步攻击（如 FGSM）在恰当初始化时，能以更低的计算需求超越其迭代对应方法的效率。我们的发现强调有必要重新审视我们对联邦医疗环境中 AI 安全的理解。
引用
@article{arxiv.2310.13893,
title = {The Hidden Adversarial Vulnerabilities of Medical Federated Learning},
author = {Erfan Darzi and Florian Dubost and Nanna. M. Sijtsema and P. M. A van Ooijen},
journal= {arXiv preprint arXiv:2310.13893},
year = {2023}
}