GoTube:连续深度模型的可扩展随机验证
机器学习
2021-12-03 v2 人工智能
神经与进化计算
动力系统
机器学习
摘要
我们提出一种新的随机验证算法,可形式化量化任何表述为连续深度模型的时间连续过程的行为鲁棒性。我们的算法在给定时间范围内求解一组全局优化(Go)问题,以构造从初始状态球出发的所有过程执行集合的紧致包络(Tube),称之为 GoTube。通过其构造,GoTube 保证边界管在所需概率与所需紧致度内是保守的。GoTube 以 JAX 实现并优化以扩展到复杂连续深度神经网络模型。相较于针对时间连续神经网络的高级可达性分析工具,GoTube 不在时间步间累积过近似误差,并避免符号技术中固有的著名包裹效应。我们在大量实验上表明,GoTube 在初始球大小、速度、时间范围、任务完成度与可扩展性方面大幅优于最先进验证工具。GoTube 稳定且在扩展到远超以往可能的时间范围的能力上确立了最先进水平。
引用
@article{arxiv.2107.08467,
title = {GoTube: Scalable Stochastic Verification of Continuous-Depth Models},
author = {Sophie Gruenbacher and Mathias Lechner and Ramin Hasani and Daniela Rus and Thomas A. Henzinger and Scott Smolka and Radu Grosu},
journal= {arXiv preprint arXiv:2107.08467},
year = {2021}
}
备注
Accepted to the Thirty-Sixth AAAI Conference on Artificial Intelligence (AAAI-22)