中文

数据标签:通过无害针对性数据投毒实现数据集所有权验证

密码学与安全 2025-12-09 v2 机器学习 机器学习

摘要

数据集所有权验证——即确定数据集是否用于模型训练数据的过程——是检测未授权数据使用和数据污染所必需的。现有方法,如后门水印,依赖于在模型对部分数据分布的响应中诱导可检测行为。然而,这些方法存在局限性:可能损害模型性能,或需要对模型内部进行不切实际的访问。最重要的是,先前方法缺乏对误报的保证。本文引入数据标签(data taggants)这一新型非后门数据集所有权验证技术。该方法使用分布外样本和随机标签的配对作为密钥,利用干净标签的针对性数据投毒微调数据集,使其在模型收到关键样本时返回相应的关键标签。这些密钥设计为允许仅通过模型的黑盒访问即可获得统计证书。我们通过在ImageNet1k上使用ViT和ResNet模型进行全面且真实的实验进行验证。我们的发现表明,数据标签能够在不牺牲验证准确率的情况下,以高置信度可靠地检测在受保护数据集上训练的模型,并显示其优于后门水印。我们展示了该方法在各种防御机制下的隐蔽性和鲁棒性。

关键词

引用

@article{arxiv.2410.09101,
  title  = {Data Taggants: Dataset Ownership Verification via Harmless Targeted Data Poisoning},
  author = {Wassim Bouaziz and Nicolas Usunier and El-Mahdi El-Mhamdi},
  journal= {arXiv preprint arXiv:2410.09101},
  year   = {2025}
}

备注

Published at ICLR 2025. 19 pages, 9 figures