非线性动力学的单轨迹非参数学习

给定动力系统的一条单一轨迹，我们分析非参数最小二乘估计器（LSE）的性能。更确切地说，我们给出 LSE 与真实回归函数之间非渐近的期望 $l^2$-距离界，其中期望在一条全新的反事实轨迹上求值。我们利用近期发展的信息论方法，就上确界范数度量熵和一个亚高斯参数而言，确立 LSE 对于非参数假设类的最优性。接下来，我们使用动力系统理论中的概念将该亚高斯参数与底层过程的稳定性相关联。结合起来，这些进展导出了速率最优的误差界，对于适当稳定的过程和度量熵增长阶为 $\delta^{-q}$ 的假设类，其缩放为 $T^{-1/(2+q)}$。此处，$T$ 是观测轨迹的长度，$\delta \in \mathbb{R}_+$ 是填充粒度，$q\in (0,2)$ 是一个复杂度项。最后，我们将结果专门化到若干具有实际意义的场景，如 Lipschitz 动力学、广义线性模型，以及由某些再生核希尔伯特空间（RKHS）函数类描述的函数动力学。