secml：一个用于安全且可解释机器学习的Python库
机器学习
2022-05-16 v2 密码学与安全
计算机视觉与模式识别
计算机科学与博弈论
机器学习
摘要
我们提出\texttt{secml}，一个用于安全且可解释机器学习的开源Python库。它实现了最流行的针对机器学习的攻击，包括用于生成深度神经网络对抗样本的测试时规避攻击，以及针对支持向量机和许多其他算法的训练时投毒攻击。这些攻击能够在白盒与黑盒威胁模型下评估学习算法及相应防御的安全性。为此，\texttt{secml}提供内置函数来计算安全性评估曲线，展示分类性能如何随输入数据对抗扰动的增大而下降。\texttt{secml}还包含可解释性方法，通过可视化对每个决策贡献最大的特征与训练原型，帮助理解对抗攻击为何能对给定模型成功。它以Apache License 2.0发布，托管于\url{https://github.com/pralab/secml}。
引用
@article{arxiv.1912.10013,
title = {secml: A Python Library for Secure and Explainable Machine Learning},
author = {Maura Pintor and Luca Demetrio and Angelo Sotgiu and Marco Melis and Ambra Demontis and Battista Biggio},
journal= {arXiv preprint arXiv:1912.10013},
year = {2022}
}
备注
Accepted for publication to SoftwareX. Published version can be found at: https://doi.org/10.1016/j.softx.2022.101095