最小门控单元（MGU）神经网络的稳定性质
最优化与控制
2026-03-04 v1 系统与控制
系统与控制
摘要
本文关注的是在计算资源有限的环境中对高效且形式上稳定的循环神经网络（RNN）的需求，通过分析最小门控单元（MGU）网络的稳定性来实现这一目标。MGU是一种轻量级的门控RNN，作为常见门控RNN在系统辨识中的替代方案。我们推导出MGU网络输入到状态稳定性和增量输入到状态稳定性的充分参数条件。这些条件使得可以在事后验证模型的稳定性，并为新的稳定性促进训练方法奠定基础，包括对网络参数的温和启动以及投影梯度优化方案，本文中均予以展示。通过比较评估（包括鲁棒性分析和在合成数据和真实数据（即银盒基准）上的验证），表明最小门控单元网络成功地在形式稳定性保证、参数效率和推理速度方面优于其他最先进的循环神经网络，同时保持与其他方法相当且令人满意的准确性。值得注意的是，银盒基准的结果表明，稳定的MGU网络有效捕捉了系统动力学，而其他稳定RNN则未能收敛到可靠的模型。
引用
@article{arxiv.2603.03017,
title = {Stability properties of Minimal Gated Unit neural networks},
author = {Stefano De Carli and Davide Previtali and Mirko Mazzoleni and Fabio Previdi},
journal= {arXiv preprint arXiv:2603.03017},
year = {2026}
}
备注
Preprint submitted to Automatica. 16 pages, 6 figures and 1 table MATLAB code for the proposed methodologies is available at: https://github.com/StefanoDeCarli/MGU_dISS.git