用于数据投毒的自回归扰动
机器学习
2022-10-17 v3 密码学与安全
摘要
从社交媒体抓取数据作为获取数据集的手段日益普遍，引发了人们对数据未经授权使用的担忧。数据投毒攻击被提出作为抵御抓取的屏障，其通过添加微小且难以察觉的扰动使数据“不可学习”。遗憾的是，现有方法需要同时知道目标架构与完整数据集，以便训练替代网络，并利用其参数生成攻击。本工作中，我们提出自回归(AR)投毒，一种无需访问更广泛数据集即可生成投毒数据的方法。所提出的AR扰动具有通用性，可跨不同数据集应用，并能投毒不同架构。与现有不可学习方法相比，我们的AR投毒对对抗训练与强数据增强等常见防御更具抵抗力。我们的分析进一步揭示了有效数据投毒的成因。
引用
@article{arxiv.2206.03693,
title = {Autoregressive Perturbations for Data Poisoning},
author = {Pedro Sandoval-Segura and Vasu Singla and Jonas Geiping and Micah Goldblum and Tom Goldstein and David W. Jacobs},
journal= {arXiv preprint arXiv:2206.03693},
year = {2022}
}
备注
Accepted to NeurIPS 2022. Code available at https://github.com/psandovalsegura/autoregressive-poisoning