用于音频超分辨率的自注意力机制

卷积仅在局部操作，因此无法建模全局交互。然而，自注意力能够学习捕获序列中长程依赖的表示。我们提出了一种结合卷积与自注意力的音频超分辨率网络架构。基于注意力的特征级线性调制利用自注意力机制代替循环神经网络来调制卷积模型的激活值。大量实验表明，我们的模型在标准基准上优于现有方法。此外，它允许更多的并行化，从而显著加快训练速度。