通过像素级与特征级分布对齐抵御黑盒攻击的通用对抗防御
计算机视觉与模式识别
2022-12-13 v1
摘要
深度神经网络（DNNs）易受高度可迁移的黑盒对抗攻击。该威胁源于目标 DNNs 特征空间中对抗样本与干净样本之间的分布差距。本文中，我们使用具有新颖训练机制的深度生成网络（DGNs）来消除该分布差距。训练后的 DGNs 通过平移像素值，将对抗样本的分布与目标 DNNs 的干净样本分布对齐。与以往工作不同，我们提出了更有效的像素级训练约束以实现此目标，从而增强对对抗样本的鲁棒性。进一步，我们构建了类感知的特征级约束以进行集成分布对齐。我们的方法具有通用性，适用于包括图像分类、语义分割与目标检测在内的多种任务。我们在不同数据集上进行了充分实验，该策略展现出针对黑盒攻击的独特有效性与通用性。
引用
@article{arxiv.2212.05387,
title = {General Adversarial Defense Against Black-box Attacks via Pixel Level and Feature Level Distribution Alignments},
author = {Xiaogang Xu and Hengshuang Zhao and Philip Torr and Jiaya Jia},
journal= {arXiv preprint arXiv:2212.05387},
year = {2022}
}