ReCAB-VAE：基于解析散度的 Gumbel-Softmax 变分推断
音频与语音处理
2022-05-10 v1 人工智能
摘要
Gumbel-softmax 分布（或称 Concrete 分布）常用于松弛类别分布的离散特性，并通过可微重参数化实现反向传播。尽管它能可靠地产生低方差梯度，但其优化仍依赖于随机采样过程。在本工作中，我们提出一种松弛类别解析界（ReCAB），这是一种新颖的类散度度量，对应于松弛类别分布的 Kullback-Leibler 散度（KLD）的上界。所提出的度量易于实现，因为它具有闭式解，且实验结果表明它接近于实际的 KLD。结合这一新度量，我们提出了一种松弛类别解析界变分自编码器（ReCAB-VAE），可成功建模连续与松弛离散潜表示。我们基于所提框架实现了一个情感文本到语音合成系统，并表明与采用随机估计或类别分布近似的基线相比，所提系统能够更灵活、稳定地控制情感表达，且语音质量更优。
引用
@article{arxiv.2205.04104,
title = {ReCAB-VAE: Gumbel-Softmax Variational Inference Based on Analytic Divergence},
author = {Sangshin Oh and Seyun Um and Hong-Goo Kang},
journal= {arXiv preprint arXiv:2205.04104},
year = {2022}
}