TorchDyn:一个神经微分方程库
机器学习
2020-09-22 v1 神经与进化计算
摘要
连续深度学习近来作为一种深度学习的崭新视角而出现,在涉及动力系统与密度估计的任务中提升了性能。这些方法的核心是神经微分方程,其前向传播是由神经网络参数化的初值问题的解。由于与标准离散神经网络相比存在特殊差异(例如推断必须通过数值求解器进行),发挥连续深度模型的全部潜力需要一套不同的软件工具。我们介绍 TorchDyn,一个致力于连续深度学习的 PyTorch 库,旨在将神经微分方程提升到如常规即插即用深度学习基元般易用的程度。这一目标通过识别并将不同变体细分为通用的基本组件来实现,这些组件可被组合并自由重新用于构建复杂的组合架构。TorchDyn 进一步提供循序渐进的教程与基准测试,以指导研究人员与贡献者。
引用
@article{arxiv.2009.09346,
title = {TorchDyn: A Neural Differential Equations Library},
author = {Michael Poli and Stefano Massaroli and Atsushi Yamashita and Hajime Asama and Jinkyoo Park},
journal= {arXiv preprint arXiv:2009.09346},
year = {2020}
}