基于动态数据增强操作的长尾后门攻击
密码学与安全
2024-10-18 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
最近, 后门攻击已成为深度神经网络日益增长的安全威胁, 并吸引了研究者的注意。 后门攻击利用了第三方预训练模型在训练阶段的漏洞, 使其对干净样本正常工作, 对带特定触发器的样本进行错误预测。 现有的后门攻击主要关注平衡数据集。然而, 现实世界的数据集通常遵循长尾分布。 本文首次探索此类数据集上的后门攻击。 具体而言, 我们首先分析数据不平衡对后门攻击的影响。 基于我们的分析, 我们提出一种有效的后门攻击方法, 称为动态数据增强操作 (DAO)。 我们设计 DAO 选择器以依据类别、样本类型 (干净 vs. 后门) 和样本特征选择操作。 同时, 我们开发了一个触发器生成器来生成样本特定的触发器。 通过对后门模型和触发器生成器进行联合优化, 以动态数据增强操作选择器为指导, 我们实现了显著的进展。 大量实验表明, 我们的方法在保持干净准确率的同时, 能够实现后门攻击的业界表现。
引用
@article{arxiv.2410.12955,
title = {Long-Tailed Backdoor Attack Using Dynamic Data Augmentation Operations},
author = {Lu Pang and Tao Sun and Weimin Lyu and Haibin Ling and Chao Chen},
journal= {arXiv preprint arXiv:2410.12955},
year = {2024}
}