使用引导扩散从头生成强效毒化和后门
机器学习
2024-03-26 v1 密码学与安全
计算机视觉与模式识别
摘要
现代神经网络通常是在大规模数据集上训练的，这些数据集是从网络抓取的，很少经过人工检查。由于这种不安全的整理流程，对手可以通过向互联网上传恶意数据并等待受害者抓取并训练这些数据来毒化或后门化生成的模型。现有的创建毒化和后门的方法从随机采样的干净数据(称为基础样本)开始，然后修改这些样本以制作毒化。然而，某些基础样本可能比其他样本更适合毒化。因此，通过仔细选择基础样本，我们可能能够制作更有效的毒化。在这项工作中，我们使用引导扩散从头合成基础样本，这些样本导致比先前最先进的攻击更有效的毒化和后门。我们的引导扩散毒化(GDP)基础样本可以与任何下游毒化或后门攻击结合使用，以提高其有效性。我们的实现代码公开在: https://github.com/hsouri/GDP。
引用
@article{arxiv.2403.16365,
title = {Generating Potent Poisons and Backdoors from Scratch with Guided Diffusion},
author = {Hossein Souri and Arpit Bansal and Hamid Kazemi and Liam Fowl and Aniruddha Saha and Jonas Geiping and Andrew Gordon Wilson and Rama Chellappa and Tom Goldstein and Micah Goldblum},
journal= {arXiv preprint arXiv:2403.16365},
year = {2024}
}