通过高效计算归一化常数实现 Fisher-Bingham 分布的最大似然估计
统计计算
2020-05-01 v1 机器学习
摘要
本文提出一种高效的数值积分公式以计算 Fisher–Bingham 分布的归一化常数。该公式利用带连续 Euler 变换的数值积分公式处理归一化常数的傅里叶型积分表示。由于该方法快速且精确,可应用于高维 Fisher–Bingham 分布归一化常数的计算。更确切地说,误差随积分点增加而指数衰减,且计算代价随维数线性增长。此外,该公式有助于计算归一化常数的梯度与 Hessian 矩阵。因此,我们将该公式应用于高效计算高维数据的最大似然估计(MLE)。最后,我们将 MLE 应用于超球面变分自编码器(S-VAE)——一种将潜空间限制为单位超球面的基于深度学习的生成模型。我们使用以手写数字图像训练的 S-VAE 来估计各标签的分布。该应用有助于为模型添加新标签。
引用
@article{arxiv.2004.14660,
title = {Maximum likelihood estimation of the Fisher-Bingham distribution via efficient calculation of its normalizing constant},
author = {Yici Chen and Kenichiro Tanaka},
journal= {arXiv preprint arXiv:2004.14660},
year = {2020}
}