基于黎曼梯度下降的低秩张量列深度神经网络及其在语音处理中的应用
机器学习
2022-03-14 v1 人工智能
声音
音频与语音处理
摘要
本工作通过考虑模型复杂度与实际性能之间的权衡,致力于设计低复杂度混合张量网络。首先,我们利用低秩张量列深度神经网络(TT-DNN)构建端到端深度学习流水线,即LR-TT-DNN。其次,建立了一个将LR-TT-DNN与卷积神经网络(CNN)相结合的混合模型,记为CNN+(LR-TT-DNN),以提升性能。我们没有为TT-DNN随机指定较大的TT秩,而是利用黎曼梯度下降来确定具有较小TT秩的TT-DNN。此外,CNN+(LR-TT-DNN)由底部的卷积层用于特征提取,以及顶部的若干TT层用于解决回归和分类问题。我们分别在语音增强和语音命令识别任务上评估了LR-TT-DNN和CNN+(LR-TT-DNN)模型。我们的经验证据表明,具有更少模型参数的LR-TT-DNN和CNN+(LR-TT-DNN)模型可以优于对应的TT-DNN和CNN+(TT-DNN)模型。
引用
@article{arxiv.2203.06031,
title = {Exploiting Low-Rank Tensor-Train Deep Neural Networks Based on Riemannian Gradient Descent With Illustrations of Speech Processing},
author = {Jun Qi and Chao-Han Huck Yang and Pin-Yu Chen and Javier Tejedor},
journal= {arXiv preprint arXiv:2203.06031},
year = {2022}
}
备注
10 pages, 10 Figures