通过熵松弛运输问题连接 Wasserstein 距离与 Kullback-Leibler 散度的信息几何

对于概率分布流形，已有两种几何结构被广泛研究。一种基于 Fisher 信息度量，它在随机变量的可逆变换下保持不变；另一种基于最优运输的 Wasserstein 距离，它反映了随机变量之间的距离结构。在此，我们提出一种新的信息几何理论，作为连接 Wasserstein 距离与 Kullback-Leibler (KL) 散度的统一框架。我们主要考虑由 $n$ 个元素构成的离散情形，并研究概率单纯形 $S_{n-1}$ 的几何，即所有定义在 $n$ 个元素上的概率分布的集合。$S_{n-1}$ 中的 Wasserstein 距离是通过将商品从分布 ${\mathbf{p}}$ 最优运输到分布 ${\mathbf{q}}$ 引入的，其中 ${\mathbf{p}}$, ${\mathbf{q}} \in S_{n-1}$。我们利用 Cuturi 引入的熵对最优运输进行了松弛。其最优解被称为熵松弛随机运输计划。熵松弛最优成本 $C({\mathbf{p}}, {\mathbf{q}})$ 在计算上的需求远低于原始的 Wasserstein 距离，但由于它在 ${\mathbf{p}}={\mathbf{q}}$ 时不取极小值，因此并未定义一个距离。为了在保持计算优势的同时定义一个恰当的散度，我们首先在最优运输计划的流形 $S_{n-1} \times S_{n-1}$ 中引入了一个散度函数。我们全面探索了最优运输计划流形的信息几何，随后在 $S_{n-1}$ 中构造了一个与 Wasserstein 距离和 KL 散度均相关的新单参数散度族。