随机化提升对抗鲁棒性的理论证据
机器学习
2019-06-12 v2 密码学与安全
机器学习
摘要
本文研究针对对抗攻击的鲁棒性理论。重点关注在推理时向网络中注入噪声的一类随机化技术。这些技术在许多场景下被证明有效，但缺乏理论依据。我们填补了这一空白，通过对这些方法进行理论分析，解释其为何在实践中表现良好。更确切地说，我们作出两项新贡献。第一项将随机化率与对抗攻击鲁棒性相关联，该结果适用于广义指数分布族，从而扩展并统一了先前方法。第二项贡献是推导出随机化神经网络对抗泛化差距的新上界。我们以一组实验支撑理论论断。
引用
@article{arxiv.1902.01148,
title = {Theoretical evidence for adversarial robustness through randomization},
author = {Rafael Pinot and Laurent Meunier and Alexandre Araujo and Hisashi Kashima and Florian Yger and Cédric Gouy-Pailler and Jamal Atif},
journal= {arXiv preprint arXiv:1902.01148},
year = {2019}
}