迈向证明深度神经网络的对抗鲁棒性
机器学习
2017-09-12 v1 密码学与安全
计算机科学中的逻辑
机器学习
摘要
自动驾驶汽车是高度复杂的系统，需要在多种多样的情况下可靠运行。为这些车辆手动编写软件控制器十分困难，但利用机器学习生成的深度神经网络已取得了一些成功。然而，深度神经网络对人类工程师而言是不透明的，导致其正确性极难手动证明；并且现有的自动化技术并非设计用于神经网络，无法扩展到大型系统。本文聚焦于证明深度神经网络的对抗鲁棒性，即证明对网络正确分类输入的微小扰动不会导致其被误分类。我们描述了近期和正在进行的一些关于验证网络对抗鲁棒性的工作，并讨论了遇到的若干开放性问题以及可能的解决途径。
引用
@article{arxiv.1709.02802,
title = {Towards Proving the Adversarial Robustness of Deep Neural Networks},
author = {Guy Katz and Clark Barrett and David L. Dill and Kyle Julian and Mykel J. Kochenderfer},
journal= {arXiv preprint arXiv:1709.02802},
year = {2017}
}
备注
In Proceedings FVAV 2017, arXiv:1709.02126