基于薛定谔桥的稳定生成建模
机器学习
2024-10-24 v3 机器学习
数值分析
数值分析
统计计算
摘要
我们考虑从未知分布中采样的问题，其中仅可获得足够大量的训练样本。此类设置在生成建模和贝叶斯推断的背景下最近引起了相当大的关注。在本文中，我们提出了一种结合薛定谔桥 (Schr"odinger bridges) 和朗之万动力学 (Langevin dynamics) 的生成模型。利用适当可逆参考过程上的薛定谔桥来近似来自可用训练样本的条件转移概率，随后将其在离散时间可逆朗之万采样器中实现以生成新样本。通过将参考过程中的核带宽设置为与未调整朗之万算法中使用的时间步长相匹配，我们的方法有效地规避了通常与刚性随机微分方程时间步进相关的任何稳定性问题。此外，我们引入了一种新颖的分步方案，确保生成的样本保持在训练样本的凸包内。我们的框架可以自然地扩展到生成条件样本以及贝叶斯推断问题。我们通过在维度递增的合成数据集上的实验、在随机子网格尺度参数化条件采样问题上的实验，以及利用条件采样生成动力系统样本轨迹的实验，展示了我们提出方案的性能。
引用
@article{arxiv.2401.04372,
title = {Stable generative modeling using Schr\"odinger bridges},
author = {Georg A. Gottwald and Fengyi Li and Youssef Marzouk and Sebastian Reich},
journal= {arXiv preprint arXiv:2401.04372},
year = {2024}
}