联邦学习中差分隐私机制的评估
机器学习
2025-10-14 v1 人工智能
摘要
联邦学习是一种跨多个客户端进行分布式模型训练的技术，无需披露原始数据。尽管数据隐私方面取得了进展，但风险仍然存在。差分隐私是一种通过向模型更新添加噪声来保护敏感数据的技术，通常由固定的隐私预算控制。然而，这种方法可能会引入过多的噪声，尤其是在模型收敛时，这会损害性能。为了解决这个问题，自适应隐私预算已被研究作为一种潜在的解决方案。本工作使用拉普拉斯机制和高斯机制实现了具有自适应隐私预算的差分隐私方法，扩展了SelecEval模拟器。我们在高斯机制中引入了一种自适应裁剪方法，确保模型的梯度动态更新，而不是使用固定的敏感度。我们使用各种隐私预算、独立同分布和非独立同分布数据集以及每轮不同数量的选定客户端进行了大量实验。虽然我们的实验仅限于200轮训练，但结果表明，自适应隐私预算和自适应裁剪有助于在保护隐私的同时保持模型准确性。
引用
@article{arxiv.2510.09691,
title = {Evaluation of Differential Privacy Mechanisms on Federated Learning},
author = {Tejash Varsani},
journal= {arXiv preprint arXiv:2510.09691},
year = {2025}
}
备注
Supervised by Prof. Dr.-Ing. habil. Alois C. Knoll; Advisor: Nagacharan Teja Tangirala, M.Sc