关于具有随机保证的 Neural ODEs 的验证
机器学习
2021-11-16 v1 神经与进化计算
系统与控制
系统与控制
摘要
我们展示了 Neural ODEs(一类新兴的时间连续神经网络)可通过求解一组全局优化问题来进行验证。为此,我们引入了随机拉格朗日可达性(Stochastic Lagrangian Reachability, SLR),一种基于抽象的技术,用于构建紧密的 Reachtube(给定时间范围内可达状态集合的过近似),并以 Reachtube 边界的置信区间形式提供随机保证。SLR 通过执行局部优化步骤来扩展安全区域,而非像确定性可达性方法那样反复前向传播它们,从而固有地避免了臭名昭著的包裹效应(过近似误差的累积)。为实现快速局部优化,我们引入了一种新颖的前向模式伴随灵敏度方法,可在无需反向传播的情况下计算梯度。最后,我们建立了 SLR 的渐近与非渐近收敛速率。
引用
@article{arxiv.2012.08863,
title = {On The Verification of Neural ODEs with Stochastic Guarantees},
author = {Sophie Gruenbacher and Ramin Hasani and Mathias Lechner and Jacek Cyranka and Scott A. Smolka and Radu Grosu},
journal= {arXiv preprint arXiv:2012.08863},
year = {2021}
}
备注
12 pages, 2 figures