RTMobile：超越实时移动端RNN语音识别加速
声音
2020-02-28 v1 机器学习
音频与语音处理
摘要
基于循环神经网络（RNN）的自动语音识别如今已在智能手机等移动设备上变得普遍。然而，以往的RNN压缩技术或因不规则性带来硬件性能开销，或因保持硬件友好所需的正则性而导致显著精度损失。本工作中，我们提出RTMobile，其利用一种新颖的基于块的剪枝方法与编译器优化来加速移动设备上的RNN推理。我们提出的RTMobile是首个能够在移动平台上实现实时RNN推理的工作。实验结果表明，RTMobile在推理精度和时间上均显著优于现有RNN硬件加速方法。与先前基于FPGA的工作相比，RTMobile在GRU上使用Adreno 640嵌入式GPU可在保持相同推理时间的同时将能效提升约40×。
引用
@article{arxiv.2002.11474,
title = {RTMobile: Beyond Real-Time Mobile Acceleration of RNNs for Speech Recognition},
author = {Peiyan Dong and Siyue Wang and Wei Niu and Chengming Zhang and Sheng Lin and Zhengang Li and Yifan Gong and Bin Ren and Xue Lin and Yanzhi Wang and Dingwen Tao},
journal= {arXiv preprint arXiv:2002.11474},
year = {2020}
}