神经网络非线性规范的验证
机器学习
2019-02-27 v1 机器学习
摘要
先前关于神经网络验证的工作集中于作为网络输出的线性函数的一类规范，例如分类器输出在输入对抗扰动下的不变性。本文将验证算法扩展至能够 certify 神经网络更丰富的性质。为此我们引入了凸可松弛规范类，其构成可使用凸松弛验证的非线性规范。我们展示了若干感兴趣的重要性质可在此类中建模，包括所学物理系统动力学模型中的能量守恒、分类器输出标签在对抗扰动下的语义一致性，以及预测手写数字求和系统中误差的界定。我们的实验评估表明，该方法能有效验证这些规范。此外，我们的评估暴露了无法被验证满足这些规范的模型中的失效模式，从而强调了训练模型不仅需拟合训练数据、还需与规范一致的重要性。
引用
@article{arxiv.1902.09592,
title = {Verification of Non-Linear Specifications for Neural Networks},
author = {Chongli Qin and Krishnamurthy and Dvijotham and Brendan O'Donoghue and Rudy Bunel and Robert Stanforth and Sven Gowal and Jonathan Uesato and Grzegorz Swirszcz and Pushmeet Kohli},
journal= {arXiv preprint arXiv:1902.09592},
year = {2019}
}
备注
ICLR conference paper