一类广义神经常微分方程的泛化界
机器学习
2025-08-27 v1
摘要
神经常微分方程（neural ODEs）是一类采用连续深度架构的流行深度学习模型。为了评估此类模型在未见数据上的表现，理解其泛化误差界至关重要。先前的研究主要关注神经常微分方程中动力学函数的线性情形（Marion, P. (2023)），或为依赖于采样间隔的神经受控常微分方程提供了界（Bleistein et al. (2023)）。在本工作中，我们分析了一类更广泛的神经常微分方程，其中动力学函数为一般非线性函数，可以是时间相关或时间无关的，且关于状态变量满足 Lipschitz 连续。我们证明，在此 Lipschitz 条件下，神经常微分方程的解具有有界变差。基于这一观察，我们为时间相关和时间无关两种情形均建立了泛化界，并研究了过参数化和域约束如何影响这些界。据我们所知，这是首次针对具有一般非线性动力学的神经常微分方程推导出泛化界。
引用
@article{arxiv.2508.18920,
title = {Generalization Bound for a General Class of Neural Ordinary Differential Equations},
author = {Madhusudan Verma and Manoj Kumar},
journal= {arXiv preprint arXiv:2508.18920},
year = {2025}
}
备注
23 pages, 4 figures