中文

压缩在线Sinkhorn

机器学习 2023-10-10 v1 机器学习

摘要

最优传输(OT)距离,尤其是熵正则化OT距离,正日益成为机器学习与数据科学诸多领域流行的评估度量。其使用很大程度上受如Sinkhorn算法等高效算法可用的推动。Sinkhorn算法在大规模数据处理中的缺陷之一是其为两阶段方法:先从概率分布抽取大量数据流,再将Sinkhorn算法应用于离散概率测度。近来,已有若干工作开发了直接处理连续数据流的随机版Sinkhorn。本文重访近期提出的[Mensch and Peyré, 2020]在线Sinkhorn算法。我们的贡献有二:改进了在线Sinkhorn算法的收敛分析,所得新速率在特定参数选择下快于先前速率,并给出数值结果验证结论的锐度。其次,我们提出压缩在线Sinkhorn算法,将测度压缩技术与在线Sinkhorn算法结合。我们提供数值实验展示实际数值收益,并给出方法效率的理论保证。

关键词

引用

@article{arxiv.2310.05019,
  title  = {Compressed online Sinkhorn},
  author = {Fengpei Wang and Clarice Poon and Tony Shardlow},
  journal= {arXiv preprint arXiv:2310.05019},
  year   = {2023}
}