POPQORN：循环神经网络鲁棒性的量化
机器学习
2019-05-20 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对对抗攻击的脆弱性一直是深度神经网络的一个关键问题。解决此问题需要一种可靠的方式来评估网络的鲁棒性。近来，若干方法被提出用于计算神经网络的鲁棒性量化（即最小对抗扰动的可证下界）。然而，此类方法针对前馈网络（如多层感知机或卷积网络）而设计。量化循环网络（尤其是 LSTM 与 GRU）的鲁棒性仍是一个开放问题。对于此类网络，在计算鲁棒性量化时存在额外挑战，例如处理多步输入以及门与状态间的交互。在本工作中，我们提出 POPQORN（Propagated-output Quantified Robustness for RNNs），一种量化 RNN（包括 vanilla RNN、LSTM 与 GRU）鲁棒性的通用算法。我们在不同网络架构上展示了其有效性，并表明对单步的鲁棒性量化可带来新的见解。
引用
@article{arxiv.1905.07387,
title = {POPQORN: Quantifying Robustness of Recurrent Neural Networks},
author = {Ching-Yun Ko and Zhaoyang Lyu and Tsui-Wei Weng and Luca Daniel and Ngai Wong and Dahua Lin},
journal= {arXiv preprint arXiv:1905.07387},
year = {2019}
}
备注
10 pages, Ching-Yun Ko and Zhaoyang Lyu contributed equally, accepted to ICML 2019. Please see arXiv source codes for the appendix by clicking [Other formats]