SubMix：面向大规模语言模型的实用隐私预测
机器学习
2022-01-05 v1 人工智能
计算与语言
摘要
近期的数据提取攻击已暴露出语言模型可以逐字记忆某些训练样本。这是一种可能危及模型训练数据隐私的漏洞。在这项工作中，我们介绍了 SubMix：一种用于私有下一词预测的实用协议，旨在防止在公共语料库上预训练后在私有语料库上微调的语言模型发生隐私泄露。我们表明，SubMix 通过对组差分隐私预测的松弛，限制了私有语料库中任何个体用户独有信息的泄露。重要的是，SubMix 提供了一种紧密的、数据依赖的隐私核算机制，使其能够在保持语言模型效用的同时抵御现有的数据提取攻击。SubMix 是首个即使在公开发布由 GPT-2 等基于大型 transformer 的模型生成的成千上万个下一词预测时仍能保持隐私的协议。
引用
@article{arxiv.2201.00971,
title = {Submix: Practical Private Prediction for Large-Scale Language Models},
author = {Antonio Ginart and Laurens van der Maaten and James Zou and Chuan Guo},
journal= {arXiv preprint arXiv:2201.00971},
year = {2022}
}