FEDLAD：深度泄露攻击与防御的联邦评估
密码学与安全
2025-01-07 v2 计算机视觉与模式识别
摘要
联邦学习是一种隐私保护的去中心化机器学习范式，旨在通过向服务器交换梯度、同时将私有数据保留在本地的方式，协同训练模型。然而，近年来的研究揭示，联邦学习的安全性受到威胁，因为私有真实数据可通过一种称为深度泄露（Deep Leakage）的梯度反演技术被恢复。虽然这些攻击是针对联邦学习应用设计的，但它们通常未在真实场景中进行评估。本文提出了FEDLAD框架（Federated Evaluation of Deep Leakage Attacks and Defenses），一个用于在真实联邦环境中评估深度泄露攻击与防御的综合性基准。通过实现涵盖多种最先进深度泄露技术及多种防御策略的统一基准，我们的框架促进了在不同数据集和训练状态下评估和比较这些方法的有效性。本工作揭示了联邦学习中隐私与模型精度之间的关键权衡，旨在推进对去中心化机器学习系统安全挑战的理解，激发未来研究，并提升深度泄露攻击与防御评估的可复现性。
引用
@article{arxiv.2411.03019,
title = {FEDLAD: Federated Evaluation of Deep Leakage Attacks and Defenses},
author = {Isaac Baglin and Xiatian Zhu and Simon Hadfield},
journal= {arXiv preprint arXiv:2411.03019},
year = {2025}
}
备注
9 pages