基于模数大小的后门防御神经元剪枝
机器学习
2024-05-29 v1 人工智能
密码学与安全
摘要
深度神经网络（DNN）已知面临后门攻击，构成对可靠部署的隐忧威胁。近期研究表明，通过剪枝特定神经元群，即可擦除感染的DNN中的后门，但如何有效识别并移除这些后门关联神经元仍是开放挑战。本文我们探讨后门行为与神经元模数大小之间的相关性，发现后门神经元偏离模型的模数显著性相关性。这种偏差启发我们提出一种基于模数大小的神经元剪枝（MNP）方法，以检测并剪枝后门神经元。具体而言，MNP使用三个基于模数的引导目标函数来操控后门神经元的模数显著性相关性，从而实现暴露后门行为、消除后门神经元和保留干净神经元的目的。实验表明，我们的剪枝策略在有限干净数据下，对抗多种后门攻击实现了最新的后门防御性能，显示出模数对指导后门防御的关键作用。
引用
@article{arxiv.2405.17750,
title = {Magnitude-based Neuron Pruning for Backdoor Defens},
author = {Nan Li and Haoyu Jiang and Ping Yi},
journal= {arXiv preprint arXiv:2405.17750},
year = {2024}
}