班级小丑：企业规模下机器遗忘中的数据删除
密码学与安全
2020-12-10 v1
摘要
通过近期的数据隐私法，如《通用数据保护条例》(GDPR)和《加州消费者隐私法》(CCPA)，个人对其个人数据的控制日益增强。这些法律的一个方面是要求企业删除私人信息的能力，即所谓的“被遗忘权”或“删除权”。这些法律对使用这些宝贵消费者数据集训练大型、高精度深度神经网络(DNNs)的公司和组织具有严重的财务影响。然而，收到的数据删除请求在如何遵守法律的同时履行核心业务运营方面带来了复杂的技术挑战。我们引入了一种 DNN 模型生命周期维护流程，确立了如何处理特定数据删除请求并最小化完全重训模型的需求。我们的流程基于成员推断攻击，将其作为训练集中每个点的合规工具。这些攻击模型量化所有训练数据点的隐私风险，并构成从已部署的准确模型中后续数据删除的基础；删除通过增量模型更新中的错误标签分配来实现。
引用
@article{arxiv.2012.04699,
title = {Class Clown: Data Redaction in Machine Unlearning at Enterprise Scale},
author = {Daniel L. Felps and Amelia D. Schwickerath and Joyce D. Williams and Trung N. Vuong and Alan Briggs and Matthew Hunt and Evan Sakmar and David D. Saranchak and Tyler Shumaker},
journal= {arXiv preprint arXiv:2012.04699},
year = {2020}
}
备注
8 pages, 7 figures