通过自适应拆分中毒数据集实现后门防御
计算机视觉与模式识别
2023-03-24 v1 密码学与安全
摘要
后门防御研究旨在缓解深度神经网络（DNNs）遭受后门攻击并被恶意篡改的威胁。由于 DNNs 通常采用来自不可信第三方的外部训练数据，训练阶段的鲁棒后门防御策略十分重要。我们认为训练时防御的核心在于筛选中毒样本并妥善处理。本工作中，我们将训练时防御统一归纳为将中毒数据集拆分为两个数据池的框架。在该框架下，我们提出基于自适应拆分数据集的防御（ASD）。具体地，我们采用损失引导拆分与元学习启发的拆分来动态更新两个数据池。借助拆分出的干净数据池与污染数据池，ASD 在训练过程中成功防御后门攻击。在多个基准数据集与 DNN 模型上针对六种最先进后门攻击的广泛实验证明了 ASD 的优越性。我们的代码见 https://github.com/KuofengGao/ASD。
引用
@article{arxiv.2303.12993,
title = {Backdoor Defense via Adaptively Splitting Poisoned Dataset},
author = {Kuofeng Gao and Yang Bai and Jindong Gu and Yong Yang and Shu-Tao Xia},
journal= {arXiv preprint arXiv:2303.12993},
year = {2023}
}
备注
Accepted by CVPR 2023