超级单调对齐搜索

单调对齐搜索 (MAS)，由 Glow-TTS 提出，是文本到语音领域最流行的算法之一，用于估计文本与语音之间的未知对齐。由于该算法需要通过动态编程搜索最可能的对齐路径并缓存所有可能路径，其时间复杂度为 $O(T \times S)$，其中 $T$ 为文本长度，$S$ 为语音表示长度。Glow-TTS 的作者在 CPU 上运行该算法，虽提到难以并行化，但我们发现 MAS 可在文本长度维度上并行化，而且 CPU 执行会消耗大量时间进行设备间拷贝。因此，我们实现了一个 Triton kernel 和 PyTorch JIT 脚本，将 MAS 在 GPU 上加速，无需设备间拷贝。结果表明，Super-MAS Triton kernel 在极端长度情况下的速度提升最高可达 72 倍。代码已发布于 https://github.com/supertone-inc/super-monotonic-align。