生成模型的可能几何
机器学习
2026-01-30 v2
摘要
生成模型的几何构成是插值、模型检查等的基础。然而,大多数生成模型在不对模型或数据维度施加限制条件的情况下,缺乏主观的几何概念。本文我们构建一种通用几何,使其兼容不同度量与概率分布,以分析无需额外训练的生成模型。我们考虑类似测地线的曲线,受约束于合适的数据分布,以针对生成模型所学习的高密度区域。我们将其表述为(伪)度量,并证明这对应于黎巴宁流形上的牛顿系统。我们展示,最短路径可由一组常微分方程描述,而在适当的黎巴宁度量下,这在局部上对应测地线。数值上,我们推导了一个高效计算最短路径与广义 Fréchet 均值(Frechet mean)的新算法。定量地,我们表明使用本文度量的曲线在多种模型与数据集上遍历的密度区域高于基准方法。
关键词
引用
@article{arxiv.2510.26266,
title = {A Likely Geometry of Generative Models},
author = {Frederik Möbius Rygaard and Shen Zhu and Yinzhu Jin and Søren Hauberg and Tom Fletcher},
journal= {arXiv preprint arXiv:2510.26266},
year = {2026}
}