反射后门：深度神经网络上的一种自然后门攻击
计算机视觉与模式识别
2020-07-14 v2
摘要
近期研究表明，DNN可在训练时遭精心制作的后门攻击而受损。后门攻击通过向一小部分训练数据注入后门模式，在受害模型中安装后门。测试时，受害模型在干净测试数据上表现正常，但一旦测试样本中出现后门模式，便持续预测某一特定（可能错误）目标类。现有后门攻击虽有效，但不够隐蔽。对训练数据或标签的修改往往可疑，易被简单数据过滤或人工检查检出。本文受一重要自然现象——反射启发，提出一类新型后门攻击。利用物理反射模型的数学建模，我们提出反射后门（Refool），将反射作为后门植入受害模型。我们在3项计算机视觉任务与5个数据集上证明，Refool能以高成功率攻击最先进DNN，且能抵御最先进的后门防御。
引用
@article{arxiv.2007.02343,
title = {Reflection Backdoor: A Natural Backdoor Attack on Deep Neural Networks},
author = {Yunfei Liu and Xingjun Ma and James Bailey and Feng Lu},
journal= {arXiv preprint arXiv:2007.02343},
year = {2020}
}
备注
Accepted by ECCV-2020