用于文本分类的压缩极深卷积神经网络
机器学习
2019-10-15 v1 计算与语言
神经与进化计算
机器学习
摘要
卷积神经网络的研究大多集中于增加网络深度以提高准确率,这导致了海量参数,使得训练好的网络只能部署在具备内存和处理能力限制的平台上。我们提出修改极深卷积神经网络(VDCNN)模型的结构以适配移动平台限制并保持性能。本文中,我们评估了时序深度可分离卷积与全局平均池化在网络参数、存储大小和延迟方面的影响。压缩模型(SVDCNN)根据网络深度不同缩小了 10 到 20 倍,最大尺寸保持在 6MB。在准确率方面,该网络损失介于 0.4% 与 1.3% 之间,并且相比基线模型获得了更低的延迟。
引用
@article{arxiv.1901.09821,
title = {Squeezed Very Deep Convolutional Neural Networks for Text Classification},
author = {Andréa B. Duque and Luã Lázaro J. Santos and David Macêdo and Cleber Zanchettin},
journal= {arXiv preprint arXiv:1901.09821},
year = {2019}
}