面向深度神经网络安全风险量化
机器学习
2020-09-15 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
当深度神经网络（DNNs）被应用于关键领域时，其安全性问题已引发关注。在本文中，我们通过要求网络决策与人类感知一致来定义安全风险。为达成量化安全风险的一般性方法，我们定义了一种通用安全属性并将其实例化以表达各类安全风险。对于风险的量化，我们取安全范数球的最大半径，其中不存在安全风险。最大安全半径的计算被归约为各自 Lipschitz 度量（待计算量）的计算。除已知的对抗样本、可达性样本和不变性样本外，本文我们识别出一类新风险——不确定性样本（uncertainty example）——人类可轻易判别但网络不确定。我们开发了一种受无导数优化技术启发、并由基于张量的 GPU 并行化加速的算法，以支持这些度量的高效计算。我们在多个基准神经网络上进行了评估，包括 ACSC-Xu、MNIST、CIFAR-10 和 ImageNet 网络。实验表明，我们的方法在安全性量化的紧致性与计算效率方面具有竞争力。重要的是，作为一种通用方法，我们的方法可适用于广泛类别的安全风险且对神经网络结构无限制。
引用
@article{arxiv.2009.06114,
title = {Towards the Quantification of Safety Risks in Deep Neural Networks},
author = {Peipei Xu and Wenjie Ruan and Xiaowei Huang},
journal= {arXiv preprint arXiv:2009.06114},
year = {2020}
}
备注
19 pages, 10 figures