神经网络的连续安全性验证
机器学习
2021-09-28 v3 计算机科学中的逻辑
摘要
将深度神经网络（DNNs）作为自动驾驶核心功能部署带来了独特的验证与确认挑战。特别是，逐步完善基于 DNN 的感知的连续工程范式，可能使先前已建立的安全性验证结果不再有效。这可能是由于在运行设计域中遇到新样本（即输入域扩大），或由于后续对 DNN 的参数微调活动所致。本文考虑将先前 DNN 安全性验证问题中建立的结果迁移至修改后的问题设定之方法。通过复用状态抽象、网络抽象与 Lipschitz 常数，我们发展了若干充分条件，仅需在新问题中形式化分析 DNN 的一小部分。整体概念在一个配备 DNN 控制器以从感知图像确定视觉路径点的 1/10 比例车辆上进行了评估。
引用
@article{arxiv.2010.05689,
title = {Continuous Safety Verification of Neural Networks},
author = {Chih-Hong Cheng and Rongjie Yan},
journal= {arXiv preprint arXiv:2010.05689},
year = {2021}
}
备注
Paper accepted at IEEE DATE'21