语言模型的经验校准与度量差分隐私
机器学习
2025-03-19 v1 密码学与安全
摘要
使用差分隐私（DP）训练的NLP模型通常采用DP-SGD框架，隐私保证常以隐私预算表示。然而，没有内在意义，通常无法在不同框架变体之间进行比较。图像处理领域的工作因此探索如何使用成员推断攻击（MIAs）对不同框架之间的噪声进行经验校准。然而，这种校准方法尚未在NLP领域得到建立。本文我们表明，MIAs在校准隐私方面帮助不大，而重建攻击更为有用。作为应用案例，我们定义一种基于von Mises-Fisher（VMF）分布的新型方向隐私，即度量DP机制通过扰动角距离而非添加（各向同性）高斯噪声来实现，并将其用于NLP架构。我们表明，尽管形式上的保证不可比较，经验隐私校准揭示了每个机制在不同utility-privacy trade-off方面的不同优势。
引用
@article{arxiv.2503.13872,
title = {Empirical Calibration and Metric Differential Privacy in Language Models},
author = {Pedro Faustini and Natasha Fernandes and Annabelle McIver and Mark Dras},
journal= {arXiv preprint arXiv:2503.13872},
year = {2025}
}
备注
16 pages