中文

无目标后门水印:面向无害且隐蔽的数据集版权保护

密码学与安全 2023-04-06 v3 人工智能 计算机视觉与模式识别 机器学习

摘要

深度神经网络 (DNNs) 已在实践中展现出其优越性。可以说,DNNs 的快速发展在很大程度上受益于高质量(开源)数据集,研究人员与开发者可基于这些数据集轻松评估并改进其学习方法。由于数据收集通常耗时甚至昂贵,如何保护其版权具有重要意义并值得深入探索。本文中,我们重新审视数据集所有权验证。我们发现,由于仅投毒后门水印的目标性本质,现有验证方法在受保护数据集上训练的 DNNs 中引入了新安全风险。为缓解该问题,本工作中我们探究无目标后门水印方案,其中异常模型行为并非确定性的。具体而言,我们引入两种分散性并证明它们的相关性,基于此我们在投毒标签与干净标签两种设定下设计无目标后门水印。我们还讨论了如何使用所提无目标后门水印进行数据集所有权验证。在基准数据集上的实验验证了我们的方法的有效性及其对现有后门防御的抵抗能力。我们的代码见 \url{https://github.com/THUYimingLi/Untargeted_Backdoor_Watermark}。

关键词

引用

@article{arxiv.2210.00875,
  title  = {Untargeted Backdoor Watermark: Towards Harmless and Stealthy Dataset Copyright Protection},
  author = {Yiming Li and Yang Bai and Yong Jiang and Yong Yang and Shu-Tao Xia and Bo Li},
  journal= {arXiv preprint arXiv:2210.00875},
  year   = {2023}
}

备注

This work is accepted by the NeurIPS 2022 (Oral, TOP 2%). The first two authors contributed equally to this work. 25 pages. We have fixed some typos in the previous version