基于时频域双路径 Transformer 源分离模型的位置编码比较研究

本研究探讨了位置编码 (PE) 对源分离性能及对长序列(长度外推)能力的影响。时频域双路径模型的长度外推能力是关键因素，因为它不仅影响长时长输入的性能，也影响信号在不可见抽样率下的可推广性。虽然 PE 已知显著影响长度外推，但目前缺乏从这一角度探讨时频域双路径模型 PE 选择取向的研究。为填补这一空白，我们以最新领先的模型 TF-Locoformer 为基座，比较了各种 PE 方法。我们的分析得出以下关键发现：(i) 在处理与训练时相同长度或更短的序列时，带有 PE 的模型实现更佳性能。(ii) 然而，无 PE 的模型在长度外推方面表现更优。当模型包含卷积层时，这一趋势尤为显著。