探究数据选择对后门攻击投毒效率的影响

随着深度神经网络（DNNs）参数规模的增长，对训练数据的需求也不断增加。为节省成本，用户和企业将耗时的数据收集委托给第三方已十分普遍。遗憾的是，近期研究表明该做法增加了DNNs遭受后门攻击的风险。具体而言，攻击者可通过毒化一小部分训练数据来恶意控制已训练模型的行为。本研究从样本选择视角出发，致力于提升后门攻击的投毒效率。现有攻击方法从良性集合中随机选取部分干净数据并嵌入触发器以构造毒化样本。然而，该随机选择策略忽略了各样本对后门注入的贡献可能不同，从而降低了投毒效率。针对上述的问题，提出了一种名为改进过滤与更新策略（FUS++）的新选择策略。具体而言，我们采用样本的遗忘事件来指示不同毒化样本的贡献，并利用损失曲面的曲率分析该现象的有效性。据此，我们结合不同样本的遗忘事件与曲率，构建了一种简单而高效的样本选择策略。在图像分类（CIFAR-10、CIFAR-100、ImageNet-10）、文本分类（AG News）、音频分类（ESC-50）和年龄回归（Facial Age）上的实验结果一致表明所提策略的有效性：在相同投毒比例下，使用FUS++的攻击性能显著高于随机选择的攻击性能。