迈向一比特 ASR：使用协同训练与随机精度的 Conformer 极低位量化
声音
2025-05-28 v1 音频与语音处理
摘要
随着现代语音系统规模的快速扩大，模型压缩已成为一项新兴需求。本文研究模型权重量化，通过直接减少内存占用以适应计算资源受限的应用。我们提出了新颖的方法，利用多精度模型协同训练、随机精度以及张量级可学习缩放因子，对 Conformer 自动语音识别系统进行极低位（即 2 比特和 1 比特）量化，以缓解量化导致的性能损失。所提方法在使用 300 小时 Switchboard 和 960 小时 LibriSpeech 语料库训练的 Conformer ASR 系统上，实现了无损性能的 2 比特和 1 比特量化。与全精度基线系统相比，在词错误率（WER）无统计学显著增加的情况下，分别实现了 16.2 倍和 16.6 倍的最大整体无损压缩比。
引用
@article{arxiv.2505.21245,
title = {Towards One-bit ASR: Extremely Low-bit Conformer Quantization Using Co-training and Stochastic Precision},
author = {Zhaoqing Li and Haoning Xu and Zengrui Jin and Lingwei Meng and Tianzi Wang and Huimeng Wang and Youjun Chen and Mingyu Cui and Shujie Hu and Xunying Liu},
journal= {arXiv preprint arXiv:2505.21245},
year = {2025}
}
备注
Accepted by Interspeech2025