中文

学习弹性代价以塑造 Monge 位移

机器学习 2024-05-24 v2 机器学习

摘要

给定支撑于 Rd\mathbb{R}^d 上的源概率测度与目标概率测度,Monge问题要求找到将一个分布映射到另一个分布的最有效方式。这种效率通过定义源数据与目标数据之间的\textit{代价}函数来量化。在机器学习文献中,该代价常默认设为平方欧氏距离,22(x,y)=12xy22\ell^2_2(\mathbf{x},\mathbf{y})=\tfrac12|\mathbf{x}-\mathbf{y}|_2^2。最近,Cuturi等人'23强调了使用弹性代价的好处,其通过正则化项 τ\tau 定义为 c(x,y)=22(x,y)+τ(xy)c(\mathbf{x},\mathbf{y})=\ell^2_2(\mathbf{x},\mathbf{y})+\tau(\mathbf{x}-\mathbf{y})。此类代价通过赋予Monge映射 TT 的\textit{位移}(即源点与其像之差 T(x)x)T(\mathbf{x})-\mathbf{x}))以匹配 τ\tau 的近端算子结构,来塑造这些位移。本工作中,我们对弹性代价的研究作出两项重要贡献:(i) 对任意弹性代价,我们提出一种数值方法来计算可证明最优的Monge映射。这提供了一条备受需求的例程,可通过类比Brenier定理(该定理指出任意凸势的梯度总是 22\ell_2^2 代价下的有效Monge映射)来创建已知真实OT映射的合成问题;(ii) 我们提出一种损失来\textit{学习}参数化正则化项 τθ\tau_\theta 的参数 θ\theta,并将其应用于 τA(z)=Az22\tau_{A}(\mathbf{z})=|A^\perp \mathbf{z}|^2_2 的情形。该正则化项促使位移位于 Rd\mathbb{R}^d 的低维子空间上,该子空间由 ARp×dA\in\mathbb{R}^{p\times d}pp 行张成。

关键词

引用

@article{arxiv.2306.11895,
  title  = {Learning Elastic Costs to Shape Monge Displacements},
  author = {Michal Klein and Aram-Alexandre Pooladian and Pierre Ablin and Eugène Ndiaye and Jonathan Niles-Weed and Marco Cuturi},
  journal= {arXiv preprint arXiv:2306.11895},
  year   = {2024}
}