SOFT: 选择性数据混淆以保护 LLM 微调免受成员推理攻击
密码学与安全
2025-06-13 v1 人工智能
摘要
大型语言模型（LLM）取得了显著成功并被广泛应用于各种应用。然而，微调这些模型通常涉及私有或敏感信息，引发了关键的隐私问题。在这项工作中，我们对微调后 LLM 对成员推理攻击（MIA）的脆弱性进行了首次全面研究。我们的实证分析表明，MIA 利用微调过程中的损失减少，使其在揭示成员信息方面非常有效。这些发现促使我们开发防御方法。我们提出 SOFT（LLM 微调中的选择性数据混淆，\textbf{S}elective data \textbf{O}bfuscation in LLM \textbf{F}ine-\textbf{T}uning），一种通过利用影响力数据选择并使用可调参数来平衡效用保持与隐私保护的新型防御技术。我们的广泛实验涵盖六个不同领域和多种 LLM 架构与规模。结果表明，SOFT 有效降低了隐私风险，同时保持了具有竞争力的模型性能，为保护微调后 LLM 中的敏感信息提供了实用且可扩展的解决方案。
引用
@article{arxiv.2506.10424,
title = {SOFT: Selective Data Obfuscation for Protecting LLM Fine-tuning against Membership Inference Attacks},
author = {Kaiyuan Zhang and Siyuan Cheng and Hanxi Guo and Yuetian Chen and Zian Su and Shengwei An and Yuntao Du and Charles Fleming and Ashish Kundu and Xiangyu Zhang and Ninghui Li},
journal= {arXiv preprint arXiv:2506.10424},
year = {2025}
}
备注
Accepted by the 34th USENIX Security Symposium 2025. Code is available at https://github.com/KaiyuanZh/SOFT