面向预训练特征提取器的可编程神经网络木马
密码学与安全
2019-01-24 v1 计算机视觉与模式识别
神经与进化计算
摘要
神经网络（NN）木马攻击是一种新兴且重要的攻击模型，可广泛破坏部署了 NN 模型的系统。现有研究在一些特定领域的小数据集上探索了外包训练攻击场景与迁移学习攻击场景，目标类数量有限且固定。本文提出了一种更强大的木马攻击方法，适用于外包训练攻击与迁移学习攻击，在能力、通用性与隐蔽性上均优于现有研究。首先，该攻击是可编程的，其恶意误分类目标不固定，即便在受害者部署后也可按需生成。其次，我们的木马攻击不局限于小领域；一个在大规模数据集上的木马模型可影响复用其通用特征的不同领域应用。第三，即便受害者对整个模型进行微调，我们的木马设计也难以被检测或消除。
引用
@article{arxiv.1901.07766,
title = {Programmable Neural Network Trojan for Pre-Trained Feature Extractor},
author = {Yu Ji and Zixin Liu and Xing Hu and Peiqi Wang and Youhui Zhang},
journal= {arXiv preprint arXiv:1901.07766},
year = {2019}
}