基于稀疏性的线性分类器对抗攻击防御

深度神经网络在包括视觉、语音与自然语言处理在内的越来越多领域中代表机器学习的最先进水平。然而，近期工作通过表明可通过微小、几乎难以察觉的扰动诱导分类错误，提出了关于此类架构鲁棒性的重要问题。对此类“对抗攻击”或“对抗样本”的脆弱性，被推测源于深度网络过度的线性。在本文中，我们在线性分类器设定下研究该现象，并表明可利用自然数据中的稀疏性来对抗$\ell_{\infty}$有界对抗扰动。具体而言，我们通过集成平均分析以及针对MNIST手写数字数据库的实验结果，展示了稀疏化前端的有效性。据我们所知，这是首个表明稀疏性为对抗攻击防御提供理论严格框架的工作。