DP-Adam-AC：基于自适应裁剪的 Adam 优化器用于隐私保护的局部可调语言模型微调
机器学习
2025-10-08 v1 人工智能
密码学与安全
摘要
大型语言模型（LLM）如 ChatGPT 已发展为强大且普遍的工具。 在小数据集上进行微调允许 LLM 高效地获取特定任务的专门技能。 尽管 LLM 在通用和任务特定用例中提供了巨大的实用性，但因两个安全相关问题受到限制。 首先，传统的 LLM 硬件要求使其在消费级设备上无法本地运行。 通常需要与 LLM 提供者服务器之间的远程网络连接，这使系统易受网络攻击的威胁。 其次，针对敏感任务进行微调的 LLM 可能涉及敏感数据。 非私有微调算法会产生易受训练数据再生产攻击威胁的模型。 我们通过增强差分隐私优化算法并将其应用于微调可本地化语言模型来解决这些安全问题。 我们在标准 DP-Adam 优化器中引入可适应的梯度裁剪以及其他工程改进，以创建 DP-Adam-AC。 我们使用该优化器微调两种局部可调 LLM 设计的示例：小型语言模型（Qwen2.5-0.5B）和 1.58 位量化（Bitnet-b1.58-2B）。 我们通过使用两个合成数据集的实验展示了在损失方面取得有前景的改进。
引用
@article{arxiv.2510.05288,
title = {DP-Adam-AC: Privacy-preserving Fine-Tuning of Localizable Language Models Using Adam Optimization with Adaptive Clipping},
author = {Ruoxing Yang},
journal= {arXiv preprint arXiv:2510.05288},
year = {2025}
}