可微分多射击层
机器学习
2021-06-09 v1 动力系统
最优化与控制
机器学习
摘要
我们详述了一类新颖的隐式神经模型。利用微分方程的时间并行方法，多射击层（MSLs）通过可并行化的求根算法寻求初值问题的解。MSLs 广泛地作为神经常微分方程（Neural ODEs）的即插即用替代方案，在函数值评估次数（NFEs）和挂钟推理时间方面具有改进的效率。我们开发了 MSLs 的算法框架，从理论和计算角度分析了不同求解方法的选择。MSLs 在 ODE 和 PDE 的长时域最优控制中以及作为序列生成的潜变量模型得到展示。最后，我们研究了在神经控制微分方程（Neural CDEs）中应用 MSL 推理对医疗数据时间序列分类所获得的加速。
引用
@article{arxiv.2106.03885,
title = {Differentiable Multiple Shooting Layers},
author = {Stefano Massaroli and Michael Poli and Sho Sonoda and Taji Suzuki and Jinkyoo Park and Atsushi Yamashita and Hajime Asama},
journal= {arXiv preprint arXiv:2106.03885},
year = {2021}
}