面向大型语言模型隐私保护微调的设计之旅
机器学习
2025-01-22 v3 密码学与安全
摘要
指令调谐已被证明在增强大型语言模型（LLM）在下游任务上的性能方面非常有效。然而，实际的微调面临着模型提供者知识产权保护、客户数据隐私要求以及调优成本之间的内在冲突。虽然最近的方法如分段学习和远程调优在隐私保护微调方面显示出有前景的架构，但在系统地解决为不同实际部署所需的多维权衡之间仍存缺口。我们提出了几个指示性评估指标，以指导隐私保护微调的设计权衡，并提出了一系列示例设计，总称为GuardedTuning；它们源于 novel combinations of system architectures with adapted privacy-enhancement methods and emerging computation techniques。每个设计在模型实用性、隐私保证和成本之间代表着不同的权衡。实验结果表明，这些设计在维护竞争性微调性能的同时能够防止数据重建攻击。
引用
@article{arxiv.2501.04323,
title = {Navigating the Designs of Privacy-Preserving Fine-tuning for Large Language Models},
author = {Haonan Shi and Tu Ouyang and An Wang},
journal= {arXiv preprint arXiv:2501.04323},
year = {2025}
}
备注
Accepted to WWW 2025