融合被剪枝和后门模型：基于最优传输的数据自由后门缓解
密码学与安全
2024-08-29 v1 机器学习
摘要
后门攻击对深度神经网络（DNNs）构成严重的安全威胁。尽管近年提出了诸多有效的防御技术，但它们不可避免地依赖于干净数据或被毒化数据的 availability。相比之下，数据自由的防御技术进展缓慢，仍在性能上显著落后于数据依赖方法。为此，我们提出了一种新颖的数据自由防御方法，称为基于最优传输的后门修复（OTBR），该方法基于我们对随机遗忘神经权重变化（NWCs）的发现，使用最优传输（OT）基于模型融合来结合被剪枝和后门模型的优势。具体而言，我们首先展示了随机遗忘的 NWCs 与毒素遗忘的 NWCs 呈正相关性。基于此，我们提出了一种随机遗忘 NWC 剪枝技术，以消除后门效应并获得无后门的剪枝模型。然后，受基于 OT 的模型融合的启发，我们提出了从剪枝到后门的 OT 基于融合技术，将剪枝模型和后门模型融合，以结合两者的优势， resulting in 表现出高干净准确率和低攻击成功率的模型。到我们知识，本文是首次将 OT 和模型融合技术应用于后门防御。广泛的实验表明，我们的方法成功地防御了三个基准数据集上的所有七种后门攻击，优于 SOTA 数据自由和数据依赖方法。代码实现与附录均提供于补充材料中。
引用
@article{arxiv.2408.15861,
title = {Fusing Pruned and Backdoored Models: Optimal Transport-based Data-free Backdoor Mitigation},
author = {Weilin Lin and Li Liu and Jianze Li and Hui Xiong},
journal= {arXiv preprint arXiv:2408.15861},
year = {2024}
}