BadRes：通过残差连接揭示后门
密码学与安全
2022-09-16 v1
摘要
通常，残差连接是构建 CNN 和 Transformer 以用于 CV 与 VL 中各种下游任务的不可或缺的网络组件，它在网络块之间引入了跳跃捷径。然而，逐层回环的残差连接也可能因允许无防备的输入而损害模型的鲁棒性。在本文中，我们提出了一种简单而强大的后门攻击方法——BadRes，其中残差连接充当旋转门，对干净输入具有确定性，而对投毒输入不可预测。我们在四个数据集上基于 ViT 和 BEiT 模型进行了实证评估，BadRes 在干净数据上零性能退化的同时实现了 97% 的攻击成功率。此外，我们使用最先进的防御方法对 BadRes 进行分析，揭示了残差连接中存在的根本性弱点。
引用
@article{arxiv.2209.07125,
title = {BadRes: Reveal the Backdoors through Residual Connection},
author = {Mingrui He and Tianyu Chen and Haoyi Zhou and Shanghang Zhang and Jianxin Li},
journal= {arXiv preprint arXiv:2209.07125},
year = {2022}
}
备注
16pages, 9 figures