扩散薛定谔桥匹配
机器学习
2023-12-13 v3 机器学习
摘要
解决传输问题,即寻找将一个给定分布传输到另一个分布的映射,在机器学习中有众多应用。受生成建模启发,近来提出了一些新的质量传输方法,例如去噪扩散模型(DDMs)和流匹配模型(FMMs)通过随机微分方程(SDE)或常微分方程(ODE)实现此类传输。然而,尽管在许多应用中期望逼近具有良好性质的确定性动态最优传输(OT)映射,DDMs和FMMs并不能保证提供接近OT映射的传输。相比之下,薛定谔桥(SBs)计算随机动态映射,可恢复OT的熵正则化版本。遗憾的是,现有的SB近似数值方法要么随维度扩展性差,要么在迭代中累积误差。本工作中,我们引入迭代马尔可夫拟合(IMF),一种求解SB问题的新方法,以及扩散薛定谔桥匹配(DSBM),一种计算IMF迭代的新型数值算法。DSBM显著优于以往的SB数值方法,并将各种近期传输方法作为特例/极限情形恢复。我们在多种问题上展示了DSBM的性能。
引用
@article{arxiv.2303.16852,
title = {Diffusion Schr\"odinger Bridge Matching},
author = {Yuyang Shi and Valentin De Bortoli and Andrew Campbell and Arnaud Doucet},
journal= {arXiv preprint arXiv:2303.16852},
year = {2023}
}