FLToP CTC: 基于相对阈值的帧级标记剪枝以实现多平台高效与节省内存的解码
机器学习
2025-10-13 v1 声音
音频与语音处理
摘要
基于CTC的语音识别系统在资源受限环境中面临计算和内存瓶颈。传统CTC解码器需要占用系统高达90%的处理时间（例如在L4 GPU上的wav2vec2-large），由于穷举式标记操作导致效率低下。本文提出帧级标记剪枝连接时序分类（FLToP CTC），一种利用相对阈值概率引导帧级标记剪枝的新型解码算法。通过逐帧动态消除低概率标记，FLToP CTC在保持可忽略的词错误率退化的情况下，降低了计算和内存需求。在LibriSpeech上，FLToP CTC相比标准CTC解码器实现了10.5倍的运行加速和2.78倍的内存缩减。其简洁性使其能够无缝集成到各平台（CPU、GPU等）的CTC解码器中。FLToP CTC解决了CTC瓶颈，为资源受限环境和实时应用提供了可扩展性，增强了语音识别的可访问性和效率。
引用
@article{arxiv.2510.09085,
title = {FLToP CTC: Frame-Level Token Pruning via Relative Threshold for Efficient and Memory-Saving Decoding on Diverse Platforms},
author = {Atul Shree and Harshith Jupuru},
journal= {arXiv preprint arXiv:2510.09085},
year = {2025}
}
备注
5 pages, 5 figures