《隐私免费：数据集浓缩如何助力隐私》中的“没有免费午餐”
机器学习
2022-09-30 v1 密码学与安全
摘要
旨在保护数据隐私的新方法需要仔细审查。隐私保护失败难以检测，但当实现所谓“隐私保护”方法的系统遭受攻击时，却可能导致灾难性后果。ICML 2022 的一篇杰出论文奖获奖工作（Dong et al., 2022）声称，数据集浓缩（DC）在训练机器学习模型时显著改善了数据隐私。该主张由对一种特定数据集浓缩技术的理论分析以及对某些现有成员推断攻击抵抗力的经验评估所支持。在本札记中，我们审视 Dong et al. (2022) 工作中的主张，并描述其在方法经验评估与理论分析中的重大缺陷。这些缺陷意味着他们的工作并未提供统计显著的证据表明 DC 相较于朴素基线改善了 ML 模型训练的隐私性。此外，先前发表的结果表明，隐私保护 ML 的标准方法 DP-SGD 同时给出了更好的准确率并实现了（可证明的）更低的成员攻击成功率。
引用
@article{arxiv.2209.14987,
title = {No Free Lunch in "Privacy for Free: How does Dataset Condensation Help Privacy"},
author = {Nicholas Carlini and Vitaly Feldman and Milad Nasr},
journal= {arXiv preprint arXiv:2209.14987},
year = {2022}
}