莫慌：一种基于频率灵感的 DNN 后门中毒样本检测方法
密码学与安全
2023-03-24 v1 计算机视觉与模式识别
机器学习
摘要
本文中，我们研究了深度神经网络（DNNs）在干净样本与中毒样本下的频率敏感性。我们的分析显示这两类样本在频率敏感性上存在显著差异。基于这些发现，我们提出 FREAK，一种简单而有效的基于频率的中毒样本检测算法。实验结果表明，FREAK 不仅对频率后门攻击有效，也对某些空间攻击有效。我们的工作仅是利用这些洞察的第一步。我们相信我们的分析与所提出的防御机制将为后门防御的未来研究与发展奠定基础。
引用
@article{arxiv.2303.13211,
title = {Don't FREAK Out: A Frequency-Inspired Approach to Detecting Backdoor Poisoned Samples in DNNs},
author = {Hasan Abed Al Kader Hammoud and Adel Bibi and Philip H. S. Torr and Bernard Ghanem},
journal= {arXiv preprint arXiv:2303.13211},
year = {2023}
}
备注
Accepted at CVPRW (The Art of Robustness)