作为随机镜像下降特例的Sinkhorn算法
机器学习
2019-09-17 v1 最优化与控制
机器学习
摘要
我们通过证明著名的Sinkhorn算法是增量/随机镜像下降的一个特例，为其提供了一个新视角。为此，只需在镜像映射和目标函数中均代入Kullback-Leibler散度即可。由于该问题定义域无界，目标函数既不光滑也不具有有界梯度。然而，利用相对光滑性的概念仍可以处理该问题，得到随机目标函数是1-相对光滑的。所发现的等价性使我们能够提出1)用于最优传输的新方法，2)超越两个约束的Sinkhorn算法扩展。
引用
@article{arxiv.1909.06918,
title = {Sinkhorn Algorithm as a Special Case of Stochastic Mirror Descent},
author = {Konstantin Mishchenko},
journal= {arXiv preprint arXiv:1909.06918},
year = {2019}
}
备注
7 pages, 2 algorithms, 1 theorem, 1 lemma