深度神经网络噪声响应分析量化鲁棒性并指纹识别结构性恶意软件
机器学习
2021-02-05 v2 机器学习
摘要
深度神经网络（DNNs）、基于云的训练和迁移学习的普遍存在，正催生一个新的网络安全前沿，其中不安全的 DNN 具有“结构性恶意软件”（即被攻陷的权重和激活路径）。特别地，DNN 可被设计有后门，使 adversary 通过添加称为触发器的像素模式轻松可靠地欺骗图像分类器。检测后门通常困难，且现有检测方法计算昂贵并需要大量资源（例如访问训练数据）。在此，我们提出一种快速特征生成技术，可量化 DNN 的鲁棒性、对其非线性进行“指纹”识别，并使我们能够检测后门（若存在）。我们的方法研究 DNN 如何响应具有不同噪声强度的加噪图像，并用滴定曲线加以概括。我们发现，带后门的 DNN 对输入噪声更敏感，并以揭示后门及其导向（“目标”）的特征方式响应。我们的经验结果表明，我们能够以比现有方法高几个数量级的置信度准确检测后门（秒级对比小时级）。
引用
@article{arxiv.2008.00123,
title = {Noise-Response Analysis of Deep Neural Networks Quantifies Robustness and Fingerprints Structural Malware},
author = {N. Benjamin Erichson and Dane Taylor and Qixuan Wu and Michael W. Mahoney},
journal= {arXiv preprint arXiv:2008.00123},
year = {2021}
}
备注
9 pages, 7 figures, accepted to the SIAM International Conference on Data Mining (SDM 21)