PAD-FT：一种通过数据净化和微调防御后门攻击的轻量级方法
密码学与安全
2024-09-19 v1 人工智能
计算机视觉与模式识别
摘要
后门攻击对深度神经网络构成严重威胁，尤其是由于最近的进步导致植入方式日益隐蔽，使防御更加具有挑战性。现有的防御机制通常依赖于额外的干净数据集作为标准参考，并涉及重新训练辅助模型或对整个受害模型进行微调。然而，这些方法往往计算昂贵且在实际应用中不可始终如一。在本文中，我们提出一种新颖且轻量级的防御机制，称为 PAD-FT，不需要额外的干净数据集，并仅对模型的极小部分进行微调以净化受害模型。为实现这一目标，我们的方法首先引入一个简单的数据净化过程，以识别和筛选出最可能的干净数据。随后，使用自净化后的干净数据集进行激活裁剪和仅对受害模型的最后一个分类层进行微调。通过将数据净化、激活裁剪和分类器微调集成在一起，PAD-FT 在多种后门攻击方法和数据集上均表现出优异的效果，经大量实验评估确认。
引用
@article{arxiv.2409.12072,
title = {PAD-FT: A Lightweight Defense for Backdoor Attacks via Data Purification and Fine-Tuning},
author = {Yukai Xu and Yujie Gu and Kouichi Sakurai},
journal= {arXiv preprint arXiv:2409.12072},
year = {2024}
}