Perlin噪声提升对抗鲁棒性
机器学习
2021-12-28 v1 人工智能
摘要
对抗样本是能扰动深度神经网络输出的一些特殊输入，以在生产环境中使学习算法产生有意错误。当前多数生成对抗样本的方法需要梯度信息。即便与生成模型无关的统一扰动也在一定程度上依赖梯度信息。程序化噪声对抗样本是一种新的对抗样本生成方式，其利用计算机图形学噪声快速生成统一对抗扰动且不需依赖梯度信息。结合对抗训练的防御思想，我们使用 Perlin 噪声训练神经网络，获得可防御程序化噪声对抗样本的模型。结合基于预训练模型的模型微调方法，我们得到更快的训练以及更高的准确率。我们的研究表明程序化噪声对抗样本是可防御的，但程序化噪声为何能生成对抗样本以及如何防御未来可能出现的其他种类程序化噪声对抗样本仍有待研究。
引用
@article{arxiv.2112.13408,
title = {Perlin Noise Improve Adversarial Robustness},
author = {Chengjun Tang and Kun Zhang and Chunfang Xing and Yong Ding and Zengmin Xu},
journal= {arXiv preprint arXiv:2112.13408},
year = {2021}
}