中文

更快的非平衡最优传输:平移不变Sinkhorn与一维Frank-Wolfe

最优化与控制 2022-01-04 v1 机器学习

摘要

非平衡最优传输(UOT)扩展了最优传输(OT),以考虑质量变化来比较分布。这对于OT在机器学习应用中的成功至关重要,使其对数据归一化与离群点具有鲁棒性。基线算法为Sinkhorn,但其收敛速度在UOT下可能显著慢于OT。本工作中,我们确定了该缺陷的成因,即迭代缺乏全局归一化,这等价于OT对偶势的平移。我们的首要贡献利用该思想开发了可证明加速的UOT Sinkhorn算法(称为“平移不变Sinkhorn”),弥合了与OT的计算差距。我们的第二贡献聚焦于1维UOT,并提出应用于该平移不变公式的Frank-Wolfe求解器。每步的线性预言机等价于求解一个1维OT问题,从而带来每迭代线性时间复杂度。我们最后的贡献将该方法扩展至1维测度的UOT barycenter计算。数值模拟展示了这三种方法带来的收敛速度提升。

关键词

引用

@article{arxiv.2201.00730,
  title  = {Faster Unbalanced Optimal Transport: Translation invariant Sinkhorn and 1-D Frank-Wolfe},
  author = {Thibault Séjourné and François-Xavier Vialard and Gabriel Peyré},
  journal= {arXiv preprint arXiv:2201.00730},
  year   = {2022}
}

备注

22 pages, 8 figures