深度学习后门
密码学与安全
2021-02-09 v2 机器学习
摘要
直观而言,针对深度神经网络(DNNs)的后门攻击是将隐藏的恶意行为注入 DNNs,使得后门模型对良性输入表现合法,而当输入包含恶意触发器时调用预定义的恶意行为。触发器可采取多种形态,包括图像中出现的特殊物体(例如黄色便签)、填充自定义纹理的形状(例如具特定颜色的徽标)甚至经特殊滤波器处理的图像级风格化(例如经 Nashville 或 Gotham 滤波器改变的图像)。这些滤波器可通过替换或扰动一组图像像素应用于原始图像。
引用
@article{arxiv.2007.08273,
title = {Deep Learning Backdoors},
author = {Shaofeng Li and Shiqing Ma and Minhui Xue and Benjamin Zi Hao Zhao},
journal= {arXiv preprint arXiv:2007.08273},
year = {2021}
}