面向高效自动语音识别的准确结构化剪枝
计算与语言
2023-06-01 v1
摘要
自动语音识别（ASR）随深度神经网络（如 Transformer 和 Conformer）取得了显著进展。然而，这些模型通常具有较大的模型尺寸与较高的推理成本，对部署于资源受限设备构成挑战。本文提出一种新颖的压缩策略，利用结构化剪枝与知识蒸馏在保持高识别性能的同时降低 Conformer 模型的模型尺寸与推理成本。我们的方法使用一组二元掩码指示是否保留或剪枝每个 Conformer 模块，并采用 L0 正则化学习最优掩码值。为进一步提升剪枝性能，我们使用逐层蒸馏策略将知识从未剪枝模型迁移至剪枝模型。我们的方法在广泛使用的 LibriSpeech 基准上优于所有剪枝基线，以极小性能损失实现了模型尺寸减少 50% 与推理成本降低 28%。
引用
@article{arxiv.2305.19549,
title = {Accurate and Structured Pruning for Efficient Automatic Speech Recognition},
author = {Huiqiang Jiang and Li Lyna Zhang and Yuang Li and Yu Wu and Shijie Cao and Ting Cao and Yuqing Yang and Jinyu Li and Mao Yang and Lili Qiu},
journal= {arXiv preprint arXiv:2305.19549},
year = {2023}
}
备注
Accepted at INTERSPEECH 2023