用于鲁棒长文本语音合成的位置相对注意力机制
计算与语言
2020-04-24 v2 机器学习
声音
音频与语音处理
摘要
尽管基于注意力的端到端文本到语音（TTS）系统能为领域内文本生成人类水平的语音，但其存在文本对齐失败的问题，且对于领域外文本该失败频率增加。我们展示了可使用简单的位置相对注意力机制来解决这些失败，此类机制摒弃了基于内容的查询/键比较。我们比较了两类注意力机制：位置相对的基于GMM的机制与基于加性能量的机制。我们建议对基于GMM的注意力进行简单修改，使其能在训练中快速且一致地对齐，并向加性能量家族引入一种新的位置相对注意力机制，称为动态卷积注意力（DCA）。我们从训练中对齐速度与一致性、自然度以及泛化到长语句的能力等方面比较了各种机制，并得出结论：GMM注意力与DCA能够泛化到极长语句，同时保持较短领域内语句的自然度。
引用
@article{arxiv.1910.10288,
title = {Location-Relative Attention Mechanisms For Robust Long-Form Speech Synthesis},
author = {Eric Battenberg and RJ Skerry-Ryan and Soroosh Mariooryad and Daisy Stanton and David Kao and Matt Shannon and Tom Bagby},
journal= {arXiv preprint arXiv:1910.10288},
year = {2020}
}
备注
Accepted to ICASSP 2020