差分隐私学习器校准的细致考察
机器学习
2022-11-16 v2
摘要
我们系统地研究了使用差分隐私随机梯度下降（DP-SGD）训练的分类器的校准，并观察到在广泛的视觉与语言任务中存在失校准现象。我们的分析将 DP-SGD 中按样本梯度裁剪确定为失校准的一个主要原因，并且表明现有结合差分隐私改进校准的方法仅在校准误差上提供边际改善，同时偶尔导致准确率的较大下降。作为解决方案，我们展示了温度缩放和 Platt 缩放等后处理校准方法的差分隐私变体出奇地有效，并且对整体模型的效用损耗可忽略不计。在 7 个任务上，采用 DP-SGD 的温度缩放和 Platt 缩放使域内期望校准误差平均降低 3.1 倍，且仅造成至多微小的准确率百分比下降。
引用
@article{arxiv.2210.08248,
title = {A Closer Look at the Calibration of Differentially Private Learners},
author = {Hanlin Zhang and Xuechen Li and Prithviraj Sen and Salim Roukos and Tatsunori Hashimoto},
journal= {arXiv preprint arXiv:2210.08248},
year = {2022}
}
备注
NeurIPS 2022 Workshop on Algorithmic Fairness through the Lens of Causality and Privacy