联邦学习中的隐私
密码学与安全
2025-02-10 v1
摘要
联邦学习（FL）是分布式机器学习的一项重大进展，允许多个参与者在不共享原始数据的情况下协作训练模型。这种去中心化方法通过将数据保留在本地设备上来增强隐私。然而，FL 引入了新的隐私挑战，因为训练期间共享的模型更新可能会意外泄露敏感信息。本章深入探讨了 FL 中的核心隐私问题，包括数据重建、模型反转攻击和成员推断的风险。它探讨了多种隐私保护技术，如差分隐私（DP）和安全多方计算（SMPC），旨在缓解这些风险。本章还考察了模型准确率与隐私之间的权衡，强调在实际实现中平衡这些因素的重要性。此外，它讨论了监管框架（如 GDPR）在塑造 FL 隐私标准方面的作用。通过全面概述 FL 中隐私的现状，本章旨在为研究人员和实践者提供必要的知识，以应对安全联邦学习环境的复杂性。讨论强调了现有隐私增强技术的潜力和局限性，为未来研究方向和更稳健解决方案的开发提供了见解。
引用
@article{arxiv.2408.08904,
title = {Privacy in Federated Learning},
author = {Jaydip Sen and Hetvi Waghela and Sneha Rakshit},
journal= {arXiv preprint arXiv:2408.08904},
year = {2025}
}
备注
This is the accepted version of the book chapter that has been accepted for inclusion in the book titled "Data Privacy: Techniques, Applications, and Standards. Editor: Jaydip Sen, IntechOpen Publishers, London, UK. ISBN: 978-1-83769-675-8. The chapter is 29 pages long