放射性数据：通过训练过程进行溯源
机器学习
2020-02-06 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
我们旨在检测某个特定图像数据集是否已被用于训练模型。我们提出一种新技术，即放射性数据（radioactive data），它对该数据集做出难以察觉的改动，使得任何在其上训练的模型都会带有可识别的标记。该标记对架构或优化方法等不同具有强鲁棒性。给定训练好的模型，我们的技术可检测放射性数据的使用并提供置信水平（p 值）。我们在大规模基准（Imagenet）上使用标准架构（Resnet-18、VGG-16、Densenet-121）和训练流程的实验表明，即使仅 1% 用于训练模型的数据为放射性数据，我们也能以高置信度（p<10^-4）检测其使用。我们的方法对数据增强和深度网络优化的随机性具有鲁棒性。因此，它相比数据投毒与后门方法提供了更高的信噪比。
引用
@article{arxiv.2002.00937,
title = {Radioactive data: tracing through training},
author = {Alexandre Sablayrolles and Matthijs Douze and Cordelia Schmid and Hervé Jégou},
journal= {arXiv preprint arXiv:2002.00937},
year = {2020}
}