利用参数剪枝与量化技术提高基于深度学习的语音增强模型的紧凑性
音频与语音处理
2020-01-08 v2 机器学习
声音
机器学习
摘要
大多数近期基于深度学习的语音增强(SE)研究聚焦于提升去噪性能。然而，成功的 SE 应用需要在实际场景中于去噪性能与计算成本之间取得理想平衡。在本研究中，我们提出了一种新颖的参数剪枝(PP)技术，其移除神经网络中的冗余通道。此外，应用了参数量化(PQ)技术，通过用更少的聚类质心表示权重来减小神经网络规模。由于这些技术基于不同概念推导而来，PP 与 PQ 可结合以提供更紧凑的 SE 模型。实验结果表明，PP 和 PQ 技术生成的紧凑 SE 模型尺寸仅为原始模型的 10.03%，导致 STOI 轻微性能损失 1.43%（从 0.70 到 0.69）以及 PESQ 轻微性能损失 3.24%（从 1.85 到 1.79）。这一有前景的结果表明，PP 和 PQ 技术可用于存储和计算资源受限设备中的 SE 系统。
引用
@article{arxiv.1906.01078,
title = {Increasing Compactness Of Deep Learning Based Speech Enhancement Models With Parameter Pruning And Quantization Techniques},
author = {Jyun-Yi Wu and Cheng Yu and Szu-Wei Fu and Chih-Ting Liu and Shao-Yi Chien and Yu Tsao},
journal= {arXiv preprint arXiv:1906.01078},
year = {2020}
}
备注
4pages, 6 figures