神经网络的对抗 VC 维与样本复杂度
机器学习
2019-12-20 v1 统计理论
机器学习
统计理论
摘要
神经网络测试阶段的对抗攻击对神经网络在安全性关键场景中的部署提出了挑战。这些攻击可通过在原始数据上叠加人眼难以察觉的噪声来实现。借此，攻击者可以制造对抗样本，使神经网络误分类。本文旨在理解存在对抗者时神经网络可学习的理论极限。我们首先定义了神经网络的假设空间，并展示了整个神经网络的生长函数与每个神经元的生长函数之间的关系。结合半空间分类器的对抗 Vapnik-Chervonenkis（VC）维，我们得出了具有符号激活函数的神经网络的对抗 VC 维。
引用
@article{arxiv.1912.08865,
title = {Adversarial VC-dimension and Sample Complexity of Neural Networks},
author = {Zetong Qi and T. J. Wilder},
journal= {arXiv preprint arXiv:1912.08865},
year = {2019}
}