面向深度网络可扩展验证的对偶方法
机器学习
2018-08-06 v2 机器学习
摘要
本文探讨了对神经网络期望性质进行形式化验证的问题，即获取可证明的保证，以确保神经网络满足关联其输入与输出的规范（例如，对有界范数对抗扰动的鲁棒性）。先前关于该主题的大多数工作在网络规模、网络架构以及待验证性质的复杂性方面存在适用性局限。相比之下，我们的框架适用于一般的激活函数类以及对神经网络输入输出的规范。我们将验证问题表述为一个优化问题（旨在寻找对规范的最大违反程度），并求解该优化问题的拉格朗日松弛，以获得待验证规范在最坏情况下违反程度的上界。我们的方法是 anytime 的，即它可以随时停止并获得关于最大违反程度的有效界限。我们在特殊假设下开发了具有可证明紧度保证的专用验证算法，并在多种验证任务上展示了一般验证方法的实用价值。
引用
@article{arxiv.1803.06567,
title = {A Dual Approach to Scalable Verification of Deep Networks},
author = {Krishnamurthy and Dvijotham and Robert Stanforth and Sven Gowal and Timothy Mann and Pushmeet Kohli},
journal= {arXiv preprint arXiv:1803.06567},
year = {2018}
}