LiBRe：一种实用的对抗检测贝叶斯方法
机器学习
2021-06-01 v2 密码学与安全
计算机视觉与模式识别
摘要
尽管深度神经网络(DNNs)具有诱人的灵活性，但其易受对抗样本攻击。人们已提出多种对抗防御策略以解决该问题，但这些策略通常因在通用性、有效性或效率上不可克服的折衷而表现出有限的实用性。本工作中，我们提出一种更实用的方法——轻量级贝叶斯精炼(Lightweight Bayesian Refinement, LiBRe)，其精神在于利用贝叶斯神经网络(BNNs)进行对抗检测。借助贝叶斯原理下任务与攻击无关的建模能力，LiBRe 能以低成本赋予多种预训练的任务相关 DNNs 防御异构对抗攻击的能力。我们开发并集成了先进的学习技术，使 LiBRe 适用于对抗检测。具体而言，我们构建了少层深度集成变分并采用预训练与微调工作流以提升 LiBRe 的有效性与效率。我们进一步提供了一种新颖见解，可在训练期间无需低效地构造对抗样本的情况下实现面向对抗检测的不确定性量化。涵盖广泛场景的大量实证研实验证了 LiBRe 的实用性。我们还进行了充分的消融研究以证明我们的建模与学习策略的优越性。
引用
@article{arxiv.2103.14835,
title = {LiBRe: A Practical Bayesian Approach to Adversarial Detection},
author = {Zhijie Deng and Xiao Yang and Shizhen Xu and Hang Su and Jun Zhu},
journal= {arXiv preprint arXiv:2103.14835},
year = {2021}
}
备注
IEEE/ CVF International Conference on Computer Vision and Pattern Recognition (CVPR), 2021