Control Disturbance Rejection in Neural ODEs

本文提出一种用于 Neural ODEs 的迭代训练算法，构建具备对控制（参数）扰动抗性的模型。该方法基于我们之前的工作 Tuning without Forgetting，采用序列式训练点，并在新数据上更新参数，关键在于：受 flat minima 概念启发，我们求解一个关于 infinite-dimensional control space 中 non-convex non-concave 泛函的 minimax 问题。我们开发了在参数空间上进行投影梯度下降的算法，后者可接受 infinite-dimensional Banach 子空间的结构。我们通过仿真实验表明，该公式化方法使模型能够有效学习新数据点并提升对控制扰动的鲁棒性。