用于关键词 spotting 的通道剪枝与权值二值化卷积神经网络
机器学习
2019-09-13 v1 机器学习
摘要
我们研究了通道数缩减与权值二值化(1-bit 权值精度)相结合,以修剪用于关键词 spotting(分类)任务的卷积神经网络。我们采用基于组 Lasso 惩罚的组-wise 分裂方法,在实现超过 50% 通道稀疏度的同时将网络性能损失控制在 0.25% 精度以内。我们展示了一种有效的三阶段流程,以平衡网络训练中的精度与稀疏度。
引用
@article{arxiv.1909.05623,
title = {A Channel-Pruned and Weight-Binarized Convolutional Neural Network for Keyword Spotting},
author = {Jiancheng Lyu and Spencer Sheen},
journal= {arXiv preprint arXiv:1909.05623},
year = {2019}
}