NBA：基于神经行为对齐的防御性蒸馏用于后门移除
密码学与安全
2024-06-18 v1
摘要
最近的研究表明深度神经网络对后门攻击极其脆弱。后门通过此攻击范式被植入神经网络，从而损害网络的完整性。一旦攻击者在测试阶段提供触发器，后门即被激活，使网络作出特定的错误预测。由于后门极具隐蔽性和危险性，防御后门攻击至关重要。本文我们提出了一种新型防御机制——神经行为对齐（NBA）用于后门移除。NBA 根据后门防御的特征，对蒸馏过程中的知识形式和蒸馏样本进行优化，以提升防御性能。NBA 在网络内部构建高层次的神经行为表征，以促进知识的传递。此外，NBA 制造伪样本以诱导学生模型 exhibit 后门神经行为。通过将学生网络中的后门神经行为与教师网络中的良性神经行为对齐，NBA 实现了对后门的主动移除。大量实验表明，NBA 能有效防御六种不同的后门攻击，并优于五种最先进的防御方法。
引用
@article{arxiv.2406.10846,
title = {NBA: defensive distillation for backdoor removal via neural behavior alignment},
author = {Zonghao Ying and Bin Wu},
journal= {arXiv preprint arXiv:2406.10846},
year = {2024}
}