机器学习中差分隐私使用（与误用）的批判性评述
密码学与安全
2023-01-09 v2 机器学习
摘要
我们评述了差分隐私（DP）在机器学习（ML）中用于隐私保护的应用。我们表明，受保持所学模型准确性的目标驱动，基于 DP 的 ML 实现过于宽松，以至于无法提供 DP 的事前隐私保证。相反，它们所提供的实质上类似于传统（且常受批评的）统计披露控制方法的加噪。由于缺乏形式化隐私保证，实际提供的隐私水平必须事后通过实验评估，而这一点极少被做。就此，我们给出了实证结果，表明 ML 中标准的抗过拟合技术能比 DP 取得更好的效用/隐私/效率权衡。
引用
@article{arxiv.2206.04621,
title = {A Critical Review on the Use (and Misuse) of Differential Privacy in Machine Learning},
author = {Alberto Blanco-Justicia and David Sanchez and Josep Domingo-Ferrer and Krishnamurty Muralidhar},
journal= {arXiv preprint arXiv:2206.04621},
year = {2023}
}
备注
ACM Computing Surveys (to appear)