通过伪区域引导精化改进神经网络验证
人工智能
2020-10-16 v1
摘要
我们提出一种用于深度神经网络鲁棒性验证的伪区域引导精化方法。我们的方法首先应用 DeepPoly 抽象域来分析网络。若鲁棒性性质无法被验证，则结果为不确定。由于过近似，抽象中计算出的区域可能是伪的，即其不包含任何真实反例。我们的目标是识别此类伪区域并用其引导抽象精化。核心思想是利用所获得的抽象约束来推断神经元的新边界。这通过线性规划技术实现。借助新边界，我们迭代地应用 DeepPoly，旨在消除伪区域。我们已在原型工具 DeepSRGR 中实现了该方法。实验结果表明，大量区域可被识别为伪的，从而 DeepPoly 的精度可显著提升。作为附带贡献，我们展示了该方法可应用于验证定量鲁棒性性质。
引用
@article{arxiv.2010.07722,
title = {Improving Neural Network Verification through Spurious Region Guided Refinement},
author = {Pengfei Yang and Renjue Li and Jianlin Li and Cheng-Chao Huang and Jingyi Wang and Jun Sun and Bai Xue and Lijun Zhang},
journal= {arXiv preprint arXiv:2010.07722},
year = {2020}
}