Advbox：一个用于生成欺骗神经网络对抗样本的工具箱
机器学习
2020-08-28 v5 密码学与安全
机器学习
摘要
近年来，神经网络已被广泛部署于计算机视觉任务，尤其是视觉分类问题，新算法据称已达到甚至超越人类表现。近期研究表明，它们都易受对抗样本攻击。对输入图像施加微小且通常难以察觉的扰动，就足以欺骗最强大的神经网络。\emph{Advbox} 是一个在 PaddlePaddle、PyTorch、Caffe2、MxNet、Keras、TensorFlow 中生成欺骗神经网络对抗样本的工具箱，并可对机器学习模型的鲁棒性进行基准测试。相较于先前工作，我们的平台支持对机器学习即服务（Machine-Learning-as-a-service）的黑盒攻击，以及更多攻击场景，如人脸识别攻击、隐身 T 恤和 DeepFake 人脸检测。代码基于 Apache 2.0 许可，公开可用：https://github.com/advboxes/AdvBox。Advbox 目前支持 Python 3。
引用
@article{arxiv.2001.05574,
title = {Advbox: a toolbox to generate adversarial examples that fool neural networks},
author = {Dou Goodman and Hao Xin and Wang Yang and Wu Yuesheng and Xiong Junfeng and Zhang Huan},
journal= {arXiv preprint arXiv:2001.05574},
year = {2020}
}