基于ImageStar的深层卷积神经网络验证
机器学习
2020-05-18 v2 计算机视觉与模式识别
摘要
卷积神经网络（CNN）已在诸多实际应用中刷新了最优水平，如人脸识别、图像分类、人体姿态估计和语义分割。尽管取得成功，CNN仍易受对抗攻击，即便训练良好的网络，其输入稍有变化也可能导致输出剧烈改变。基于集合的分析方法能够检测或证明有界对抗攻击的不存在，并可用于评估神经网络训练方法的有效性。遗憾的是，现有验证方法在可分析网络规模方面可扩展性有限。本文描述一种成功处理如VGG16和VGG19等真实世界CNN的集合框架，这些网络在ImageNet上准确率很高。我们的方法基于一种称为ImageStar的新集合表示，其能够对CNN进行高效的精确与过近似分析。ImageStar通过将具体图像上的运算与线性规划（LP）相结合来实现高效的基于集合的分析。该方法在名为NNV的工具中实现，能够针对由DeepFool攻击等对抗攻击导出的小规模输入状态验证VGG网络的鲁棒性。实验结果表明，与DeepZ所用的现有zonotope方法及DeepPoly所用的多面体方法相比，我们的方法保守性更低且速度更快。
引用
@article{arxiv.2004.05511,
title = {Verification of Deep Convolutional Neural Networks Using ImageStars},
author = {Hoang-Dung Tran and Stanley Bak and Weiming Xiang and Taylor T. Johnson},
journal= {arXiv preprint arXiv:2004.05511},
year = {2020}
}