离散时间 ReLU 循环神经网络的稳定性与性能分析
系统与控制
2024-05-15 v3 机器学习
系统与控制
最优化与控制
摘要
本文提出了具有 ReLU 激活函数的循环神经网络（RNN）稳定性和 增益性能的充分条件。这些条件是通过将 Lyapunov/耗散理论与重复 ReLU 满足的二次约束（QC）相结合而推导出来的。我们利用标量 ReLU 的已知性质，为重复 ReLU 编写了一类通用的 QC。我们的稳定性和性能条件使用了这些 QC 以及 ReLU RNN 的“提升”表示。我们证明了标量 ReLU 满足的正齐次性性质不会扩展重复 ReLU 的 QC 类。我们给出了示例以演示稳定性/性能条件，并研究了提升视野的影响。
引用
@article{arxiv.2405.05236,
title = {Stability and Performance Analysis of Discrete-Time ReLU Recurrent Neural Networks},
author = {Sahel Vahedi Noori and Bin Hu and Geir Dullerud and Peter Seiler},
journal= {arXiv preprint arXiv:2405.05236},
year = {2024}
}