基于尾部自适应 f-散度的变分推断

基于 ${\alpha}$-散度的变分推断已广泛应用于现代概率机器学习中。与 Kullback-Leibler (KL) 散度相比，使用 ${\alpha}$-散度（取正 ${\alpha}$ 值）的一个主要优势是其质量覆盖性质。然而，估计和优化 ${\alpha}$-散度需要使用重要性采样，而由于重要性权重的重尾特性，这可能具有极大甚至无穷的方差。本文中，我们提出一类新的尾部自适应 f-散度，其随重要性权重的尾部自适应地改变凸函数 f，从而在理论上保证有限矩的同时实现质量覆盖性质。我们在贝叶斯神经网络以及深度强化学习上测试了我们的方法，其中我们的方法被用于改进最近的 soft actor-critic (SAC) 算法。结果表明，与基于经典 KL 和 ${\alpha}$-散度的现有方法相比，我们的方法具有显著优势。