无限维高斯测度与高斯过程间 Wasserstein 距离的熵正则化
机器学习
2022-03-15 v3 机器学习
概率论
摘要
本文研究了无限维希尔伯特空间上 2-Wasserstein 距离的熵正则化形式，特别是高斯情形。我们首先给出最小互信息性质，即希尔伯特空间上两个高斯测度的联合测度中互信息最小者为联合高斯测度。这是欧氏空间上高斯密度的最大熵性质的无限维推广。随后我们给出了希尔伯特空间上两个高斯测度间最优熵传输方案、熵 2-Wasserstein 距离以及 Sinkhorn 散度的闭式公式，以及一组高斯测度重心的不动点方程。我们的公式充分利用了熵形式的正则化方面，在奇异与非奇异情形下均成立。在无限维情形下，熵 2-Wasserstein 距离与 Sinkhorn 散度均为 Fr\'echet 可微，而精确的 2-Wasserstein 距离不可微。我们的 Sinkhorn 重心方程是新的且总有唯一解。相比之下，有限维熵 2-Wasserstein 距离的重心方程无法推广到希尔伯特空间情形。在再生核希尔伯特空间（RKHS）情形下，我们的距离公式由相应核 Gram 矩阵显式给出，提供了核最大均值差异（MMD）与核 2-Wasserstein 距离之间的插值。
引用
@article{arxiv.2011.07489,
title = {Entropic regularization of Wasserstein distance between infinite-dimensional Gaussian measures and Gaussian processes},
author = {Minh Ha Quang},
journal= {arXiv preprint arXiv:2011.07489},
year = {2022}
}
备注
revised version, 90 pages, to be published in Journal of Theoretical Probability