Adversarial Robustness Toolbox v1.0.0
机器学习
2019-11-18 v4 机器学习
摘要
Adversarial Robustness Toolbox (ART) 是一个 Python 库,支持开发者和研究者防御机器学习模型(深度神经网络、梯度提升决策树、支持向量机、随机森林、逻辑回归、高斯过程、决策树、Scikit-learn 流水线等)免受对抗威胁,并助力使 AI 系统更安全可信。机器学习模型易受对抗样本攻击,对抗样本是为使机器学习模型产生预期响应而刻意修改的输入(图像、文本、表格数据等)。ART 提供构建和部署防御并用对抗攻击测试它们的工具。防御机器学习模型涉及认证和验证模型鲁棒性,以及通过预处理输入、用对抗样本增广训练数据、利用运行时检测方法标记可能被攻击者修改的输入等方法来加固模型。ART 中实现的攻击允许创建针对机器学习模型的对抗攻击,这是用最先进威胁模型测试防御所必需的。支持的机器学习库包括 TensorFlow (v1 和 v2)、Keras、PyTorch、MXNet、Scikit-learn、XGBoost、LightGBM、CatBoost 和 GPy。ART 的源代码以 MIT 许可证发布于 https://github.com/IBM/adversarial-robustness-toolbox。该发布包含代码示例、带教程的笔记本和文档(http://adversarial-robustness-toolbox.readthedocs.io)。
引用
@article{arxiv.1807.01069,
title = {Adversarial Robustness Toolbox v1.0.0},
author = {Maria-Irina Nicolae and Mathieu Sinn and Minh Ngoc Tran and Beat Buesser and Ambrish Rawat and Martin Wistuba and Valentina Zantedeschi and Nathalie Baracaldo and Bryant Chen and Heiko Ludwig and Ian M. Molloy and Ben Edwards},
journal= {arXiv preprint arXiv:1807.01069},
year = {2019}
}
备注
34 pages