轻量最优薛定谔桥匹配
机器学习
2024-07-31 v2
摘要
薛定谔桥(SB)作为经典扩散模型的一个有前景的扩展,近期受到机器学习社区的关注,它也与熵正则最优传输(EOT)相互关联。最近的SB求解器利用了普遍的桥匹配过程。这类过程旨在仅给定分布间的传输方案时,恢复一个在分布间传输质量随机过程。特别是,给定EOT方案,这些过程可被适配用于求解SB。这一事实被近期的工作大量利用,催生了基于匹配的SB求解器。其核心在于恢复EOT方案:近期工作要么使用启发式近似(如小批量OT),要么建立迭代匹配过程,而该过程的设计会导致训练期间误差累积。我们针对这些局限性,提出了一种新的学习SB的方法,称之为**最优薛定谔桥匹配**。它利用了扩散过程的最优参数化,并可证明地恢复SB过程,**(a)**仅需单步桥匹配,且**(b)**可以任意传输方案作为输入。此外,我们证明最优桥匹配目标与近期发现的用于学习EOT/SB的基于能量的建模(EBM)目标一致。受此观察启发,我们开发了一个轻量求解器(称为LightSB-M),利用调整后薛定谔势的高斯混合参数化,在实践中实现最优匹配。我们通过一系列实际任务实验展示了该求解器的性能。求解器代码可在https://github.com/SKholkin/LightSB-Matching获取。
引用
@article{arxiv.2402.03207,
title = {Light and Optimal Schr\"odinger Bridge Matching},
author = {Nikita Gushchin and Sergei Kholkin and Evgeny Burnaev and Alexander Korotin},
journal= {arXiv preprint arXiv:2402.03207},
year = {2024}
}