基于Shapley估计的少样本后门防御
密码学与安全
2022-10-24 v2 计算机视觉与模式识别
神经与进化计算
摘要
深度神经网络在过去十年中在自动驾驶、人脸识别和医疗诊断等多种任务上取得了令人印象深刻的性能。然而，先前工作表明，深度神经网络在推理阶段易被后门攻击操纵为特定的、攻击者决定的行为，后门攻击向模型训练中注入恶意小型隐藏触发器，引发严重安全威胁。为确定被触发神经元并防御后门攻击，我们利用Shapley值并开发一种称为Shapley剪枝（ShapPruning）的新方法，在数据不足情形（每类1张图像甚至无数据）下成功缓解模型的后门攻击。考虑神经元间交互，ShapPruning识别少量感染神经元（低于全部神经元1%）并尽力在剪除尽可能多感染神经元后保护模型结构与精度。为加速ShapPruning，我们进一步提出丢弃阈值与-贪婪策略以加速Shapley估计，使仅用几分钟修复中毒模型成为可能。实验表明相较现有方法，我们的方法针对多种攻击与任务的有效性与鲁棒性。
引用
@article{arxiv.2112.14889,
title = {Few-shot Backdoor Defense Using Shapley Estimation},
author = {Jiyang Guan and Zhuozhuo Tu and Ran He and Dacheng Tao},
journal= {arXiv preprint arXiv:2112.14889},
year = {2022}
}