面向真实场景深度神经网络的高效后门攻击
密码学与安全
2024-04-22 v2 计算机视觉与模式识别
摘要
近期的深度神经网络（DNN）已变得依赖于海量训练数据，这为恶意攻击者利用并污染数据以实施后门攻击提供了机会。然而，现有后门攻击方法做出了不切实际的假设，假定所有训练数据来自单一来源且攻击者完全访问训练数据。本文中，我们引入了一种更真实的攻击场景，其中受害者从多个来源收集数据，且攻击者无法访问完整的训练数据。我们将此场景称为数据受限后门攻击。在此类情况下，由于后门注入过程中良性特征与投毒特征相互纠缠，先前的攻击方法遭受严重的效率下降。为解决该问题，我们从两条不同流中引入三种基于 CLIP 的技术：干净特征抑制与投毒特征增强，作为数据受限后门攻击的有效解决方案。结果表明其取得了显著改进，在某些设置下相比现有攻击在数据受限场景中实现了超过 100% 的提升。代码见 https://github.com/sunh1113/Efficient-backdoor-attacks-for-deep-neural-networks-in-real-world-scenarios
引用
@article{arxiv.2306.08386,
title = {Efficient Backdoor Attacks for Deep Neural Networks in Real-world Scenarios},
author = {Ziqiang Li and Hong Sun and Pengfei Xia and Heng Li and Beihao Xia and Yi Wu and Bin Li},
journal= {arXiv preprint arXiv:2306.08386},
year = {2024}
}
备注
ICLR 2024