论隐私解除下基于神经网络的差分隐私表格训练数据合成器的效用恢复无能性
机器学习
2022-11-30 v1
摘要
设计审计生成模型隐私-效用权衡的程序在实践中是一个重要但尚未解决的问题。现有工作集中于研究在“合成数据训练，真实数据测试”范式下，隐私约束对合成数据训练效用退化的副作用。我们通过观察隐私解除对合成训练数据效用的副作用，将对隐私-效用权衡的理解推向新的层面。令人惊讶的是，我们发现了 DP-CTGAN 和 PATE-CTGAN 在隐私解除下的效用恢复无能性，这引发了对其实际应用的担忧。主要信息是：隐私解除并不总是意味着效用恢复。
引用
@article{arxiv.2211.15809,
title = {On the Utility Recovery Incapability of Neural Net-based Differential Private Tabular Training Data Synthesizer under Privacy Deregulation},
author = {Yucong Liu and Chi-Hua Wang and Guang Cheng},
journal= {arXiv preprint arXiv:2211.15809},
year = {2022}
}