中文

通过 Wasserstein 类似几何学习 von Mises-Fisher 分布

机器学习 2025-04-22 v1 机器学习 统计方法学

摘要

我们引入了一种新颖的、几何感知的距离度量,用于 von Mises-Fisher (vMF) 分布的族,这些分布是单位超球面上方向数据的基本模型。尽管 vMF 分布在涉及球面数据的各种概率学习任务中被广泛使用,但用于比较 vMF 分布的原则工具仍有限,主要由于归一化常数的不可计算性以及缺乏合适的几何度量。致力于最优传输理论,我们提出了一种 Wasserstein 类似距离,将两个 vMF 分布之间的差异分解为两个可解释组成部分:一个捕捉平均方向之间角度分离的测地线项,以及一个量化浓度参数差异的类似方差项。该推导利用在高浓度 regime 下的高斯近似,得到一种符合内在球面几何的可计算闭式表达式。我们证明了所提距离具有良好的理论性质,并在非退化 vMF 分布的空间上诱导出潜在的几何结构。作为主要应用,我们开发了高效的 vMF 混合模型简化算法,实现了在高维设置下的结构保持压缩。合成数据集和真实世界高维嵌入(包括生物医学句子表示和深度视觉特征)的实验结果表明,所提几何在区分分布和支持可解释推断方面效果显著。本工作通过引入一种针对超球面几何的可计算、受传输启发的距离,扩展了方向数据分析的统计工具箱。

关键词

引用

@article{arxiv.2504.14164,
  title  = {Learning over von Mises-Fisher Distributions via a Wasserstein-like Geometry},
  author = {Kisung You and Dennis Shung and Mauro Giuffrè},
  journal= {arXiv preprint arXiv:2504.14164},
  year   = {2025}
}