Nonlinear Dynamical Systems Approximation的度量熵下界
机器学习
2025-06-12 v2 信息论
动力系统
math.IT
摘要
本文关注Nonlinear dynamical systems approximation的根本限制。具体而言，我们展示了循环神经网络 (RNNs) 可以以度量熵最优的方式近似满足Lipschitz性质且快速遗忘过去输入的Nonlinear systems。由于我们所考虑的dynamical systems实现的一组序列到序列映射显著大于通常在逼近理论中分析的函数类，因而需要更精细的度量熵表征，即以阶、型和广义维度为度量。我们计算了指数Lipschitz和多项式Lipschitz fading-memory systems的这些量，并表明RNNs能够实现它们。
引用
@article{arxiv.2407.01250,
title = {Metric-Entropy Limits on the Approximation of Nonlinear Dynamical Systems},
author = {Yang Pan and Clemens Hutter and Helmut Bölcskei},
journal= {arXiv preprint arXiv:2407.01250},
year = {2025}
}