单像素签名：表征 CNN 模型用于后门检测
计算机视觉与模式识别
2020-08-19 v1 密码学与安全
机器学习
摘要
我们通过提出一种称为单像素签名的新表征来解决卷积神经网络（CNN）后门检测问题。我们的任务是检测/分类一个 CNN 模型是否被恶意植入了未知木马触发器。此处，每个 CNN 模型关联一个签名，该签名通过逐像素生成一个对抗值来创建，该对抗值是类预测发生最大变化的结果。单像素签名与 CNN 架构的设计选择及其训练方式无关。它可针对黑盒 CNN 模型高效计算而无需访问网络参数。我们提出的单像素签名相较现有竞争方法在受后门攻击的 CNN 检测/分类上取得了显著提升（绝对检测准确率提升约 30%）。单像素签名是一种通用表征，可用于表征 CNN 模型，且不限于后门检测。
引用
@article{arxiv.2008.07711,
title = {One-pixel Signature: Characterizing CNN Models for Backdoor Detection},
author = {Shanjiaoyang Huang and Weiqi Peng and Zhiwei Jia and Zhuowen Tu},
journal= {arXiv preprint arXiv:2008.07711},
year = {2020}
}
备注
Accepted at ECCV 2020