使用神经常微分方程的迁移学习
机器学习
2020-01-22 v1 计算机视觉与模式识别
摘要
已引入使用神经常微分方程（NODE）进行迁移学习的概念。在本文中，我们使用 EfficientNets 在 CIFAR-10 数据集上探索迁移学习。我们使用 NODE 微调我们的模型。使用 NODE 进行微调在训练和验证期间提供更强的稳定性。这些连续深度块还可以在数值精度与速度之间进行权衡。使用神经 ODE 进行迁移学习使损失函数收敛更为稳定。
引用
@article{arxiv.2001.07342,
title = {Transfer Learning using Neural Ordinary Differential Equations},
author = {Rajath S and Sumukh Aithal K and Natarajan Subramanyam},
journal= {arXiv preprint arXiv:2001.07342},
year = {2020}
}