从隐写分析视角看基于检测的对抗样本防御
计算机视觉与模式识别
2018-12-27 v3 机器学习
机器学习
摘要
深度神经网络（DNN）近来在许多领域带来了显著改进。然而，DNN 易受对抗样本的攻击，对抗样本是带有难以察觉扰动却会极大误导 DNN 的样本。此外，对抗样本可用于对各类基于 DNN 的系统发起攻击，即便攻击者无法访问底层模型。已有许多防御方法被提出，例如混淆网络梯度或检测对抗样本。但事实证明这些防御方法要么无效，要么无法抵御二次对抗攻击。在本文中，我们指出隐写分析可应用于对抗样本检测，并提出一种通过估计对抗攻击所致修改的概率来增强隐写分析特征的方法。实验结果表明，所提方法能准确检测对抗样本。此外，二次对抗攻击无法对我们的方法直接实施，因为我们的方法不基于神经网络，而是基于高维人工特征与 FLD（Fisher 线性判别）集成。
引用
@article{arxiv.1806.09186,
title = {Detection based Defense against Adversarial Examples from the Steganalysis Point of View},
author = {Jiayang Liu and Weiming Zhang and Yiwei Zhang and Dongdong Hou and Yujia Liu and Hongyue Zha and Nenghai Yu},
journal= {arXiv preprint arXiv:1806.09186},
year = {2018}
}
备注
8 pages, 3 figures