PeriodWave: 多周期流匹配的高保真波形生成
声音
2024-08-15 v1 人工智能
机器学习
音频与语音处理
信号处理
摘要
最近,针对各种分布外场景的通用波形生成任务受到了广泛关注。尽管基于 GAN 的方法在快速波形生成方面表现出色,但它们容易受到训练-推理不匹配场景(如两阶段文本转语音)的影响。与此同时,扩散模型在其他领域展现了强大的生成性能,但由于在波形生成任务中推理速度慢而未能受到关注。最重要的是,目前没有生成器架构能够显式地解耦高分辨率波形信号的自然周期特征。在本文中,我们提出了 PeriodWave,一种新颖的通用波形生成模型。首先,我们引入了一种周期感知的流匹配估计器,在估计向量场时能够捕捉波形信号的周期特征。此外,我们利用多周期估计器避免重叠以捕捉波形信号的不同周期特征。虽然增加周期数量可以显著提升性能,但这需要更高的计算成本。为了解决这一问题,我们还提出了一种单周期条件通用估计器,可以通过按周期分批推理进行前馈并行。此外,我们利用离散小波变换无损解耦波形信号的频率信息以进行高频建模,并引入 FreeU 以降低波形生成中的高频噪声。实验结果表明,我们的模型在梅尔频谱重建和文本转语音任务上均优于先前模型。所有源代码将在 \url{https://github.com/sh-lee-prml/PeriodWave} 上公开。
引用
@article{arxiv.2408.07547,
title = {PeriodWave: Multi-Period Flow Matching for High-Fidelity Waveform Generation},
author = {Sang-Hoon Lee and Ha-Yeong Choi and Seong-Whan Lee},
journal= {arXiv preprint arXiv:2408.07547},
year = {2024}
}
备注
24 pages, 16 tables, 4 figures