Foolbox：一个用于基准测试机器学习模型鲁棒性的 Python 工具箱
机器学习
2018-03-21 v3 密码学与安全
计算机视觉与模式识别
机器学习
摘要
即便当今最先进的机器学习模型也很容易被其输入中几乎难以察觉的扰动所欺骗。Foolbox 是一个新的 Python 包，用于生成此类对抗扰动，并量化和比较机器学习模型的鲁棒性。它的构建理念是：最具可比性的鲁棒性度量是制造对抗样本所需的最小扰动。为此，Foolbox 提供了大多数已发表的对抗攻击方法的参考实现以及一些新方法，所有这些方法都执行内部超参数调优以找到最小对抗扰动。此外，Foolbox 与最流行的深度学习框架（如 PyTorch、Keras、TensorFlow、Theano 和 MXNet）接口，并允许不同的对抗准则，例如目标误分类和 top-k 误分类，以及不同的距离度量。代码基于 MIT 许可证开源，可在 https://github.com/bethgelab/foolbox 获取。最新文档可在 http://foolbox.readthedocs.io 找到。
引用
@article{arxiv.1707.04131,
title = {Foolbox: A Python toolbox to benchmark the robustness of machine learning models},
author = {Jonas Rauber and Wieland Brendel and Matthias Bethge},
journal= {arXiv preprint arXiv:1707.04131},
year = {2018}
}
备注
Code and examples available at https://github.com/bethgelab/foolbox and documentation available at http://foolbox.readthedocs.io