TrISec：针对深度神经网络的不依赖训练数据且不可感知的安全攻击
机器学习
2020-05-15 v3 密码学与安全
机器学习
摘要
大多数在训练阶段针对深度神经网络（DNNs）的数据操纵攻击会引入可感知的噪声，这些噪声可在推理时通过预处理消除，或在验证阶段被识别。因此，推理时的数据投毒攻击（如对抗攻击）正变得更为流行。然而，其中许多方法在优化算法中未考虑不可感知性因素，可通过相关性和结构相似性分析被检测出来，或在多级安全系统中被人眼察觉。此外，多数推理攻击依赖于对训练数据集的某些了解。本文提出一种新方法，利用预训练 DNNs 上的反向传播算法自动生成不可感知的攻击图像，且无需任何训练数据集信息（即完全不依赖训练数据）。我们以自动驾驶用例中基于德国交通标志识别基准数据集训练的 VGGNet 进行交通标志检测作为案例研究。结果表明，所生成的攻击图像在“主观”和“客观”质量测试中均保持不可感知的同时，成功实现了错误分类。
引用
@article{arxiv.1811.01031,
title = {TrISec: Training Data-Unaware Imperceptible Security Attacks on Deep Neural Networks},
author = {Faiq Khalid and Muhammad Abdullah Hanif and Semeen Rehman and Rehan Ahmed and Muhammad Shafique},
journal= {arXiv preprint arXiv:1811.01031},
year = {2020}
}