面向CPU上快速神经声码器的SIMD尺寸感知权重正则化
声音
2022-11-03 v1 计算与语言
机器学习
音频与语音处理
摘要
本文提出一种用于加速神经声码器的权重正则化方法。剪枝耗时的DNN模块是在CPU上实现实时声码器（如WaveRNN、LPCNet）的一种有前景的途径。鼓励稀疏性的正则化也能有效避免剪枝带来的质量下降。然而，为了快速声码化，权重矩阵的元素顺序必须在SIMD尺寸内连续。为确保此顺序，我们提出显式的SIMD尺寸感知正则化。我们提出的方法将权重矩阵重塑为张量，使权重按组大小预先对齐，然后计算类组Lasso正则化损失。在70%稀疏的子带WaveRNN上的实验表明，常规Lasso与按列组Lasso剪枝会降低合成语音的自然度。采用所提正则化的声码器1）实现了与无剪枝相当的自然度，且2）比其他使用正则化的常规声码器明显更快。
引用
@article{arxiv.2211.00898,
title = {SIMD-size aware weight regularization for fast neural vocoding on CPU},
author = {Hiroki Kanagawa and Yusuke Ijima},
journal= {arXiv preprint arXiv:2211.00898},
year = {2022}
}
备注
Accepted to SLT 2022