渐进式信息论最优传输求解器
机器学习
2024-11-01 v3 机器学习
摘要
最优传输(OT)通过为机器学习提供理论和计算工具而产生了深远影响。在此背景下，给定两个大小分别为n和m的大规模点云在R^d中，信息论最优传输(EOT)求解器已成为解决Kantorovich问题并输出n×m配对矩阵，或解决Monge问题并学习向量值推送图的主要可靠工具。虽然EOT配对/映射的鲁棒性使其在实际应用中成为首选，但EOT求解器仍难以调优，因为其受一小组但影响显著的超参数控制，尤其是始终存在的熵正则化强度ε。设定ε确实困难，因为它同时影响诸多绩效指标，如计算速度、统计绩效、泛化能力和偏差。在本工作中，我们提出了一类新的EOT求解器(ProgOT)，能够估计两种计划和传输图。我们利用了若干机会，通过将质量位移进行时间离散化、借鉴动态OT公式的灵感，并使用经过适当安排的参数进行EOT来征服这些步骤。我们提供的实验证据表明，ProgOT在大规模计算配对时比标准求解器更快且更可靠，甚至超过了神经网络方法。我们还证明了该方法在估计最优传输图时具有统计一致性。
引用
@article{arxiv.2406.05061,
title = {Progressive Entropic Optimal Transport Solvers},
author = {Parnian Kassraie and Aram-Alexandre Pooladian and Michal Klein and James Thornton and Jonathan Niles-Weed and Marco Cuturi},
journal= {arXiv preprint arXiv:2406.05061},
year = {2024}
}
备注
In proceedings of the 38th conference on Advances in Neural Information Processing Systems (NeurIPs), 23 pages, 14 figures