联邦学习中隐藏数据隐私泄露
计算与语言
2024-11-28 v1 密码学与安全
摘要
联邦学习 (Federated Learning, FL) 作为一种在广泛且分布式数据集上进行机器学习的范式，旨在通过避免直接数据共享来实现隐私增强。然而，最近的研究表明，攻击者可以通过模型操控或梯度分析窃取私有数据。现有攻击受限于窃取数量低或数据分辨率低，并且通常通过监控梯度或权重中的异常来检测。在本文中，我们提出了一种新颖的数据重建攻击，利用恶意代码注入支持，并受两项关键技术支持，即独特且稀疏的编码设计和块分区。不同于需要对模型进行可检测变化的常规方法，本方法通过参数共享方式以隐式方式嵌入隐藏模型，系统性地提取敏感数据。斐波那契索引设计确保高效、结构化的数据检索，而块分区方法增强了本方法处理高分辨率图像的能力，通过将图像划分为更小、可管理的单元。针对4个数据集进行的大量实验确认，本方法在5种相应检测方法下，优于五种最先进的数据重建攻击。我们的方法能够在不被检测或受到最新数据重建防御措施干扰的情况下处理大规模和高分辨率数据。与基线方法相比，本方法可直接应用于 FedAVG 和 FedSGD 场景，凸显了开发人员需要构想新的防御措施以抵御此类漏洞的必要性。我们将在接受后开源代码。
引用
@article{arxiv.2411.18269,
title = {Hidden Data Privacy Breaches in Federated Learning},
author = {Xueluan Gong and Yuji Wang and Shuaike Li and Mengyuan Sun and Songze Li and Qian Wang and Kwok-Yan Lam and Chen Chen},
journal= {arXiv preprint arXiv:2411.18269},
year = {2024}
}