打破端侧流式 ASR 的功耗壁垒：见解与解决方案
声音
2025-02-27 v2 机器学习
音频与语音处理
摘要
功耗在端侧流式语音识别中起着至关重要的作用，显著影响用户体验。本研究探讨了语音识别模型中权重参数的配置如何影响其整体能源效率。我们发现，这些参数对功耗的影响因调用频率和内存分配等因素而异。利用这些见解，我们提出了设计原则，通过降低功耗同时对准确性的影响最小化来增强端侧语音识别模型。我们的方法根据模型组件特定的能量敏感性进行调整，与领先方法相比，在保持相当的模型准确性并提高实时性能的同时，实现了高达 47% 的能耗降低。
引用
@article{arxiv.2402.13076,
title = {Breaking Down Power Barriers in On-Device Streaming ASR: Insights and Solutions},
author = {Yang Li and Yuan Shangguan and Yuhao Wang and Liangzhen Lai and Ernie Chang and Changsheng Zhao and Yangyang Shi and Vikas Chandra},
journal= {arXiv preprint arXiv:2402.13076},
year = {2025}
}
备注
Proceedings of Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics - Industry Track (NAACL), 2025