检测针对点云分类器的后门攻击
密码学与安全
2021-10-22 v1 计算机视觉与模式识别
机器学习
摘要
后门攻击(BA)是对深度神经网络分类器的新兴威胁。被攻击的分类器在来自源类的测试样本嵌入后门模式(BP)时,会预测为攻击者的目标类。最近,首个针对点云(PC)分类器的 BA 被提出,对包括自动驾驶在内的许多重要应用造成新威胁。由于特殊的 BP 嵌入机制,此类 PC BA 无法被现有 BA 防御手段检测。本文中,我们提出一种逆向工程防御,可在无需访问训练集或任何干净分类器作参考的情况下,推断 PC 分类器是否遭受后门攻击。我们的防御有效性在 PC 基准 ModelNet40 数据集上得到验证。
引用
@article{arxiv.2110.10354,
title = {Detecting Backdoor Attacks Against Point Cloud Classifiers},
author = {Zhen Xiang and David J. Miller and Siheng Chen and Xi Li and George Kesidis},
journal= {arXiv preprint arXiv:2110.10354},
year = {2021}
}