CBD：基于局部主导概率的认证后门检测器
机器学习
2024-01-05 v2 密码学与安全
摘要
后门攻击是深度神经网络的常见威胁。在测试期间，嵌入后门触发器的样本会被后门模型误分类为对抗性目标，而未含后门触发器的样本则会被正确分类。本文提出首个认证后门检测器（CBD），其基于我们提出的统计量局部主导概率这一新颖的可调保形预测方案。对于任意受检分类器，CBD 提供 1) 检测推断，2) 同一分类域内攻击保证可检测的条件，以及 3) 假阳性率的概率上界。我们的理论结果表明，具有更强抗测试时噪声能力且扰动幅度更小的触发器攻击更有可能被保证检测到。此外，我们在四个基准数据集上针对 BadNet、CB 和 Blend 等多种后门类型进行了大量实验。CBD 取得了与最先进检测器相当甚至更高的检测准确率，并且额外提供检测认证。值得注意的是，对于由 限定的随机扰动触发器、攻击成功率超过 90% 的后门攻击，CBD 在四个基准数据集 GTSRB、SVHN、CIFAR-10 和 TinyImageNet 上分别取得了 100%（98%）、100%（84%）、98%（98%）和 72%（40%）的经验（认证）检测真正率，且假阳性率较低。
引用
@article{arxiv.2310.17498,
title = {CBD: A Certified Backdoor Detector Based on Local Dominant Probability},
author = {Zhen Xiang and Zidi Xiong and Bo Li},
journal= {arXiv preprint arXiv:2310.17498},
year = {2024}
}
备注
Accepted to NeurIPS 2023