Tiny-Sepformer：一种用于语音分离的微小时间域Transformer网络
声音
2022-07-01 v2 音频与语音处理
摘要
时间域Transformer神经网络已在语音分离任务中证明其优越性。然而，这些模型通常具有大量网络参数，因此常遇到GPU显存爆炸的问题。在本文中，我们提出了Tiny-Sepformer，一种用于语音分离的微小版Transformer网络。我们提出两种技术来减少模型参数和显存消耗：（1）卷积-注意力（CA）块，将原始Transformer拆分为两条路径，即多头注意力和一维深度可分离卷积；（2）参数共享，在CA块内共享层参数。在我们的实验中，Tiny-Sepformer能大幅减小模型尺寸，并在WSJ0-2/3Mix数据集上取得与原始Sepformer相当的分离性能。
引用
@article{arxiv.2206.13689,
title = {Tiny-Sepformer: A Tiny Time-Domain Transformer Network for Speech Separation},
author = {Jian Luo and Jianzong Wang and Ning Cheng and Edward Xiao and Xulong Zhang and Jing Xiao},
journal= {arXiv preprint arXiv:2206.13689},
year = {2022}
}
备注
Accepted by Interspeech 2022