关于过程性对抗噪声攻击与防御
机器学习
2021-08-30 v2 人工智能
密码学与安全
计算机视觉与模式识别
摘要
深度神经网络（DNN）易受对抗样本攻击，这些样本通过在输入图像上施加微小扰动即可诱使神经网络做出错误预测。研究人员一直致力于推动通用对抗扰动（UAP）的研究，此类方法无需梯度且对数据分布的先验知识要求极低。过程性对抗噪声攻击是一种无数据通用扰动生成方法。在本文中，我们提出了两种基于过程噪声函数的通用对抗扰动（UAP）生成方法：Simplex 噪声和 Worley 噪声。在我们的框架中，利用渲染技术生成干扰视觉分类的阴影。在不改变语义表示的情况下，通过我们的方法生成的对抗样本在攻击中表现出优越的性能。
引用
@article{arxiv.2108.04409,
title = {On Procedural Adversarial Noise Attack And Defense},
author = {Jun Yan and Xiaoyang Deng and Huilin Yin and Wancheng Ge},
journal= {arXiv preprint arXiv:2108.04409},
year = {2021}
}
备注
Remove theoretical analysis and focus on the empirical study