通过 K-Arm 优化对深度神经网络进行后门扫描
机器学习
2021-08-03 v3 人工智能
密码学与安全
摘要
后门攻击对深度学习系统构成严重威胁。它将隐藏的恶意行为注入模型，使得任何带有特殊图案的输入都能触发此类行为。因此，检测后门迫在眉睫。许多现有的防御技术使用优化来生成最小的输入图案，迫使注入该图案的一组良性输入被误分类到目标标签。然而，其复杂度与类标签数量呈二次关系，因此难以处理具有很多类的模型。受强化学习中的多臂老虎机(Multi-Arm Bandit)启发，我们提出了一种用于后门检测的 K-Arm 优化方法。通过在目标函数引导下迭代且随机地选择最有希望进行优化的标签，我们大幅降低了复杂度，从而能够处理具有很多类的模型。此外，通过迭代地精炼待优化标签的选择，它显著缓解了选择正确标签时的不确定性，提高了检测准确率。在投稿时，我们在 IARPA TrojAI 竞赛从第 1 轮到最新第 4 轮的超过 4000 个模型上对所提方法进行评估，在排行榜上取得了顶尖性能。我们的技术在准确率和所需扫描时间上也超越了三种最先进(state-of-the-art, SOTA)技术。
引用
@article{arxiv.2102.05123,
title = {Backdoor Scanning for Deep Neural Networks through K-Arm Optimization},
author = {Guangyu Shen and Yingqi Liu and Guanhong Tao and Shengwei An and Qiuling Xu and Siyuan Cheng and Shiqing Ma and Xiangyu Zhang},
journal= {arXiv preprint arXiv:2102.05123},
year = {2021}
}