BackdoorBox：一个用于后门学习的 Python 工具箱
密码学与安全
2023-02-06 v1 计算机视觉与模式识别
机器学习
摘要
第三方资源（例如样本、骨干网络和预训练模型）通常参与深度神经网络（DNN）的训练，这带来了后门攻击这一新的训练阶段威胁。一般来说，后门攻击者意图在 DNN 中植入隐藏后门，使得受攻击的 DNN 在良性样本上表现正常，而一旦隐藏后门被攻击者指定的触发器模式激活，其预测将被恶意更改为预定义的目标标签。为了促进更安全的训练方案和防御措施的研究与开发，我们设计了一个开源 Python 工具箱，在统一且灵活的框架下实现了具有代表性的先进后门攻击与防御方法。我们的工具箱具有四个重要且有前景的特性：一致性、简洁性、灵活性和协同开发。它允许研究人员和开发者在基准数据集或本地数据集上轻松实现和比较不同方法。该 Python 工具箱名为 \texttt{BackdoorBox}，可通过 \url{https://github.com/THUYimingLi/BackdoorBox} 获取。
引用
@article{arxiv.2302.01762,
title = {BackdoorBox: A Python Toolbox for Backdoor Learning},
author = {Yiming Li and Mengxi Ya and Yang Bai and Yong Jiang and Shu-Tao Xia},
journal= {arXiv preprint arXiv:2302.01762},
year = {2023}
}
备注
BackdoorBox V0.1. The first two authors contributed equally to this toolbox. 13 pages