利用 Rényi 散度在最优传输与 KL 正则化最优传输之间进行插值

自 Cuturi 引入 Kullback-Leibler（KL）散度正则化的最优传输（OT）以来，正则化最优传输近年来备受关注。本文提出使用 $\alpha$-Rényi 散度族（$\alpha \in (0, 1)$）对 OT 问题进行正则化。Rényi 散度既非 $f$-散度也非 Bregman 距离，但在极限 $\alpha \nearrow 1$ 时它们可恢复 KL 散度。引入额外参数 $\alpha$ 的优势在于，当 $\alpha \searrow 0$ 时，我们可获得对非正则化 OT 问题的收敛。对于 KL 正则化 OT 问题，这是通过让正则化参数 $\varepsilon$ 趋于零来实现的，但这会导致数值不稳定。我们提出了两种不同的方法来获得概率测度上的预度量，即通过 Rényi 散度约束和惩罚项。后一种预度量在非正则化与 KL 正则化 OT 问题之间进行插值，且唯一极小元具有弱收敛性，推广了 KL 正则化 OT 的插值性质。我们使用嵌套镜像下降算法求解原始形式。在真实和合成数据集上，Rényi 正则化 OT 计划在更接近非正则化传输计划以及在推理任务中更好地恢复真实情况方面，均优于其 KL 和 Tsallis 对应方法。