具有 ReLU 激活的神经网络的可达集计算与安全验证
机器学习
2017-12-25 v1 人工智能
摘要
神经网络已被广泛用于解决复杂的现实世界问题。由于神经网络复杂、非线性、非凸的本质,对其输出行为的正式安全性保证对于其在安全关键系统中的应用至关重要。本文研究了由修正线性单元(Rectified Linear Unit, ReLU)激活函数构成的一类神经网络的输出可达集计算与安全验证问题。提出了一种逐层方法来计算输出可达集。该计算被表述为对多面体并集的一组操作形式,可借助多面体计算工具高效实施。基于输出可达集计算结果,可通过检查不安全区域与由多面体并集描述的输出可达集的交集,对 ReLU 神经网络进行安全验证。给出了一个随机生成的 ReLU 神经网络的数值示例,以表明本文所开发方法的有效性。
引用
@article{arxiv.1712.08163,
title = {Reachable Set Computation and Safety Verification for Neural Networks with ReLU Activations},
author = {Weiming Xiang and Hoang-Dung Tran and Taylor T. Johnson},
journal= {arXiv preprint arXiv:1712.08163},
year = {2017}
}