神经 ODE 长时间控制中的稀疏性
机器学习
2022-09-09 v3 最优化与控制
机器学习
摘要
我们考虑带有 -控制惩罚的监督学习的神经 ODE 与最优控制视角，其中我们不是仅最小化状态的最终代价（即经验风险），而是将该代价在整个时间区间上积分。我们证明任意最优控制（对于此代价）在某个正的停止时间之后消失。在离散时间背景下看，这一结果意味着相关联的残差神经网络的参数具有一种有序的稀疏模式：有序是指这些参数在某个特定层之后全为 。此外，我们给出了经验风险关于时间区间的多项式稳定性估计。这可以被视为一种转向性质（turnpike property），适用于非光滑动力学和带 -惩罚的泛函，且不对数据作任何小性假设，这两点在文献中均为新颖结果。
引用
@article{arxiv.2102.13566,
title = {Sparsity in long-time control of neural ODEs},
author = {Carlos Esteve-Yagüe and Borjan Geshkovski},
journal= {arXiv preprint arXiv:2102.13566},
year = {2022}
}