通过识别阿喀琉斯之踵提升 DNN 鲁棒性验证
机器学习
2018-11-20 v1 密码学与安全
摘要
深度神经网络（DNN）是一种广泛使用的深度学习技术。如何保障基于 DNN 的系统安全是 DNN 研究与应用的关键问题。鲁棒性是 DNN 的一项重要安全属性。然而，现有验证 DNN 鲁棒性的工作耗时且难以扩展到大规模 DNN。本文中，我们提出一种用于 DNN 鲁棒性验证的提升方法，旨在更早地找到反例。我们的观察是 DNN 的不同输入在其周围存在反例的可能性不同，且最大输出值与第二大输出值之间差异较小的输入往往成为 DNN 的阿喀琉斯之踵。我们已实现该方法并将其应用于最先进的 DNN 验证工具 Reluplex 及四种 DNN 攻击方法。在两个基准上的大量实验结果表明了我们提升方法的有效性。
引用
@article{arxiv.1811.07108,
title = {Boosting the Robustness Verification of DNN by Identifying the Achilles's Heel},
author = {Chengdong Feng and Zhenbang Chen and Weijiang Hong and Hengbiao Yu and Wei Dong and Ji Wang},
journal= {arXiv preprint arXiv:1811.07108},
year = {2018}
}
备注
12