从零到一：通过合成数据注入与模型查询检测泄露数据

随着机器学习应用的不断普及，且它们的成功高度依赖于训练数据的质量，保护数据的知识产权（IP）已变得至关重要。尽管在存储、传输和使用过程中存在多种保护数据的机制，但关于检测数据是否已在未经授权的情况下被用于模型训练的研究较少。由于对潜在攻击者所进行的训练过程缺乏信息和控制，这一问题尤其具有挑战性。在本文中，我们聚焦于表格数据领域，并提出了一种新颖的方法——局部分布偏移合成（\textsc{LDSS}），用于检测被用于训练分类模型的泄露数据。\textsc{LDSS} 的核心思想是将少量具有类分布局部偏移特征的合成数据注入到所有者的数据集中。这使得仅通过模型查询就能有效识别在泄露和修改后的数据集上训练的模型，因为合成数据注入导致在泄露和修改后的数据集上训练的模型预测结果出现显著差异。\textsc{LDSS} 是\emph{模型无关的}，因此兼容多种分类模型。我们在五个真实世界数据集上的七种分类模型上进行了大量实验。综合结果证实了 \textsc{LDSS} 的可靠性、鲁棒性、保真性、安全性与高效性。将 \textsc{LDSS} 扩展到回归任务进一步凸显了其与基线方法相比的通用性与有效性。