中文

DP-TBART:一种基于 Transformer 的差分隐私表格数据生成自回归模型

机器学习 2023-07-21 v1 密码学与安全

摘要

生成保持差分隐私的合成表格数据是一个日益重要的问题。虽然传统的基于边际的方法已取得令人印象深刻的成果,但近期工作表明基于深度学习的方法往往落后。在本工作中,我们提出 Differentially-Private TaBular AutoRegressive Transformer(DP-TBART,差分隐私表格自回归 Transformer),一种基于 Transformer 的自回归模型,它保持差分隐私,并在多种数据集上取得与基于边际的方法相竞争的性能,在特定设置下甚至能超越最先进的方法。我们还提供了一个理论框架,用以理解基于边际方法的局限性以及基于深度学习的方法最值得贡献之处。这些结果表明,在生成差分隐私合成表格数据时,基于深度学习的技术应被视为基于边际方法的可行替代方案。

关键词

引用

@article{arxiv.2307.10430,
  title  = {DP-TBART: A Transformer-based Autoregressive Model for Differentially Private Tabular Data Generation},
  author = {Rodrigo Castellon and Achintya Gopal and Brian Bloniarz and David Rosenberg},
  journal= {arXiv preprint arXiv:2307.10430},
  year   = {2023}
}