一种面向硬件且内存高效的 CTC 解码方法
信号处理
2019-09-09 v1 机器学习
摘要
连接主义时序分类（CTC）在诸如自动语音识别（ASR）与场景文本识别（STR）的序列到序列分析任务中取得了巨大成功。这些应用可利用 CTC 目标函数训练循环神经网络（RNNs），并在推理时解码 RNNs 的输出。尽管针对 RNNs 的硬件架构已有研究，但基于硬件的 CTC 解码器对于高速基于 CTC 的推理系统仍是所需的。本文首次提供了一种基于集束搜索解码的低成本且内存高效构建 CTC 解码器的方法。首先，我们改进集束搜索解码算法以节省存储空间。其次，我们压缩一部字典（从 26.02MB 减至 1.12MB）并将其用作语言模型，同时对该字典的检索十分简单。最后，使用所提方法用 C++ 语言实现了一个用于英文 ASR 与 STR 任务的定点 CTC 解码器。结果表明，与浮点对应实现相比，所提方法精度损失极小。我们的实验证明，所提集束搜索解码算法所需存储的压缩比在 ASR 与 STR 上分别为 29.49 与 17.95。
引用
@article{arxiv.1905.03175,
title = {A Hardware-Oriented and Memory-Efficient Method for CTC Decoding},
author = {Siyuan Lu and Jinming Lu and Jun Lin and Zhongfeng Wang},
journal= {arXiv preprint arXiv:1905.03175},
year = {2019}
}
备注
13 pages, 11 figures