通过归一化理解神经 ODE
机器学习
2020-04-29 v2 机器学习
摘要
归一化是深度学习中一种重要且被广泛研究的技术。然而，其在基于常微分方程的网络（神经 ODE）中的作用仍知之甚少。本文研究不同的归一化技术如何影响神经 ODE 的性能。特别地，我们表明在 CIFAR-10 分类任务中达到 93% 的准确率是有可能的，并且据我们所知，这是在該问题上测试的神经 ODE 中报告的最高准确率。
引用
@article{arxiv.2004.09222,
title = {Towards Understanding Normalization in Neural ODEs},
author = {Julia Gusak and Larisa Markeeva and Talgat Daulbaev and Alexandr Katrutsa and Andrzej Cichocki and Ivan Oseledets},
journal= {arXiv preprint arXiv:2004.09222},
year = {2020}
}