中文

数据抄袭指数:表征表格生成模型中数据复制隐私风险

机器学习 2024-06-21 v1 密码学与安全 机器学习

摘要

表格生成模型的前景在于生成逼真的合成数据,这些数据可以共享并安全使用,而不会泄露训练集中的危险信息。在评估这些模型时,已经提出了多种方法来衡量生成样本时从训练数据集中复制数据的趋势。然而,这些方法要么没有从隐私威胁的角度考虑数据复制,要么没有受到数据复制文献近期成果的启发,要么难以与表格数据的高维、混合类型特性兼容。本文提出了一种新的相似度度量和成员推断攻击方法,称为表格数据的数据抄袭指数(DPI)。我们证明,DPI评估了一种新的直观的数据复制定义,并表征了相应的隐私风险。我们表明,DPI识别的数据复制对常见的高性能架构构成了隐私和公平性威胁;这强调了需要更复杂的生成建模技术来缓解这一问题。

关键词

引用

@article{arxiv.2406.13012,
  title  = {Data Plagiarism Index: Characterizing the Privacy Risk of Data-Copying in Tabular Generative Models},
  author = {Joshua Ward and Chi-Hua Wang and Guang Cheng},
  journal= {arXiv preprint arXiv:2406.13012},
  year   = {2024}
}