鲁棒循环神经网络的凸参数化
机器学习
2020-10-06 v2 系统与控制
系统与控制
最优化与控制
机器学习
摘要
循环神经网络(RNNs)是一类常用于建模序列到序列映射的非线性动力系统。RNNs具有优异的表达能力,但缺乏许多应用所必需的稳定性或鲁棒性保证。本文中,我们构造了具有稳定性与鲁棒性保证的RNNs凸集。这些保证由增量二次约束导出,可确保全部解的全局指数稳定性,以及对增量增益(所学序列到序列映射的Lipschitz常数)的界。利用隐式模型结构,我们构造了在模型参数与稳定性证书上联合凸的RNNs参数化。我们证明该模型结构将此前提出的所有稳定RNNs凸集作为特例包含在内,并且也包含所有稳定线性动力系统。我们在非线性系统辨识的背景下阐明了所提模型类的效用。
引用
@article{arxiv.2004.05290,
title = {A Convex Parameterization of Robust Recurrent Neural Networks},
author = {Max Revay and Ruigang Wang and Ian R. Manchester},
journal= {arXiv preprint arXiv:2004.05290},
year = {2020}
}
备注
conference submission, 6 pages