通过 Wasserstein 类似几何学习 von Mises-Fisher 分布
机器学习
2025-04-22 v1 机器学习
统计方法学
摘要
我们引入了一种新颖的、几何感知的距离度量,用于 von Mises-Fisher (vMF) 分布的族,这些分布是单位超球面上方向数据的基本模型。尽管 vMF 分布在涉及球面数据的各种概率学习任务中被广泛使用,但用于比较 vMF 分布的原则工具仍有限,主要由于归一化常数的不可计算性以及缺乏合适的几何度量。致力于最优传输理论,我们提出了一种 Wasserstein 类似距离,将两个 vMF 分布之间的差异分解为两个可解释组成部分:一个捕捉平均方向之间角度分离的测地线项,以及一个量化浓度参数差异的类似方差项。该推导利用在高浓度 regime 下的高斯近似,得到一种符合内在球面几何的可计算闭式表达式。我们证明了所提距离具有良好的理论性质,并在非退化 vMF 分布的空间上诱导出潜在的几何结构。作为主要应用,我们开发了高效的 vMF 混合模型简化算法,实现了在高维设置下的结构保持压缩。合成数据集和真实世界高维嵌入(包括生物医学句子表示和深度视觉特征)的实验结果表明,所提几何在区分分布和支持可解释推断方面效果显著。本工作通过引入一种针对超球面几何的可计算、受传输启发的距离,扩展了方向数据分析的统计工具箱。
引用
@article{arxiv.2504.14164,
title = {Learning over von Mises-Fisher Distributions via a Wasserstein-like Geometry},
author = {Kisung You and Dennis Shung and Mauro Giuffrè},
journal= {arXiv preprint arXiv:2504.14164},
year = {2025}
}