联邦大型语言模型的隐私泄露分析
密码学与安全
2024-03-11 v1 机器学习
摘要
随着联邦学习（FL）被快速采用作为利用大型语言模型（LLM）的应用的训练和微调协议，近期的研究强调需要对 FL 进行重大修改以适应 LLM 的庞大规模。尽管作为回应已对协议进行了实质性调整，但目前仍缺乏针对适配后 FL 协议的全面隐私分析。为了填补这一空白，我们的工作从理论和实践两个角度深入探讨了使用 FL 训练 LLM 时的隐私分析。具体而言，我们设计了两种具有理论成功率保证的主动成员推理攻击，以评估各种适配后 FL 配置的隐私泄露。我们的理论发现转化为实际攻击，揭示了流行 LLM 中存在的严重隐私漏洞，包括 BERT、RoBERTa、DistilBERT 和 OpenAI 的 GPTs，涵盖了多个真实世界的语言数据集。此外，我们进行了详尽的实验，以评估当数据受到最先进的差分隐私（DP）机制保护时这些模型的隐私泄露情况。
引用
@article{arxiv.2403.04784,
title = {Analysis of Privacy Leakage in Federated Large Language Models},
author = {Minh N. Vu and Truc Nguyen and Tre' R. Jeter and My T. Thai},
journal= {arXiv preprint arXiv:2403.04784},
year = {2024}
}