面向对抗鲁棒性的神经网络中的非确定性
机器学习
2019-05-28 v1 密码学与安全
机器学习
摘要
深度学习领域的近期突破推动了计算机视觉、音频处理、自然语言处理及其他领域广泛任务的进展。在大多数将这些任务部署于真实场景的实例中，所用模型已被证明易受对抗攻击，这使得解决其对抗鲁棒性挑战变得至关重要。现有的对抗鲁棒性技术分为三大类：防御性蒸馏技术、对抗训练技术，以及基于随机或非确定性模型的技术。本文提出一种新颖的神经网络范式，属于针对对抗鲁棒性的随机模型类别，但不同于该类别下所有现有技术，其将网络的每个参数建模为具有可学习参数的统计分布。我们通过实验表明，该框架对多种白盒和黑盒对抗攻击高度鲁棒，同时保持了传统神经网络模型的任务特定性能。
引用
@article{arxiv.1905.10906,
title = {Non-Determinism in Neural Networks for Adversarial Robustness},
author = {Daanish Ali Khan and Linhong Li and Ninghao Sha and Zhuoran Liu and Abelino Jimenez and Bhiksha Raj and Rita Singh},
journal= {arXiv preprint arXiv:1905.10906},
year = {2019}
}