为循环神经网络构造对抗性输入序列
密码学与安全
2016-04-29 v1 机器学习
神经与进化计算
摘要
机器学习模型常被用于解决复杂安全问题，以及在引导自动驾驶车辆或预测金融市场行为等敏感情境中做出决策。先前的研究表明，众多机器学习模型易受以其输入被对抗性样本形式进行对抗性操纵的影响。此类输入通过对合法输入添加精心选择的扰动来构造，以迫使机器学习模型行为异常，例如当关注的机器学习任务是分类时输出错误类别。事实上，据我们所知，所有先前关于神经网络对抗性样本构造的工作都考虑用于解决分类任务的模型，最常见于计算机视觉应用。本文通过研究处理序列数据的循环神经网络的对抗性输入序列，对对抗性机器学习领域做出贡献。我们表明，先前引入的用于构造被前馈神经网络误分类的对抗性样本的算法类别可适用于循环神经网络。在一个实验中，我们展示攻击者可以构造误导分类型和序列型循环神经网络的对抗性序列。
引用
@article{arxiv.1604.08275,
title = {Crafting Adversarial Input Sequences for Recurrent Neural Networks},
author = {Nicolas Papernot and Patrick McDaniel and Ananthram Swami and Richard Harang},
journal= {arXiv preprint arXiv:1604.08275},
year = {2016}
}