深度神经网络的降阶建模
机器学习
2020-11-26 v5 机器学习
摘要
我们引入了一种加速深度神经网络推理的新方法。它在某种程度上受到动力系统降阶建模技术的启发。所提方法的基石是最大体积算法。我们在不同数据集上预训练好的神经网络上展示了其效率。我们表明，在许多实际情况下，可以用小得多的全连接层替换卷积层，且精度下降相对较小。
引用
@article{arxiv.1910.06995,
title = {Reduced-Order Modeling of Deep Neural Networks},
author = {Julia Gusak and Talgat Daulbaev and Evgeny Ponomarev and Andrzej Cichocki and Ivan Oseledets},
journal= {arXiv preprint arXiv:1910.06995},
year = {2020}
}