通过匹配有限维分布高效训练神经随机微分方程
机器学习
2025-03-28 v2 机器学习
摘要
神经随机微分方程已成为连续随机过程的强大无网格生成模型，在金融、物理和生物学等领域具有关键应用。先前的最先进方法依赖于对抗训练（如GAN）或使用签名核最小化过程间的距离度量。然而，GAN存在不稳定、模式崩溃以及需要专门训练技术等问题，而基于签名核的方法需要求解线性偏微分方程并通过求解器反向传播梯度，其计算复杂度随离散化步数呈二次增长。本文中，我们识别出一类新的用于比较连续马尔可夫过程的严格适当评分规则。这一理论发现自然引出了一种称为有限维匹配的新方法，用于训练神经随机微分方程。我们的方法利用SDE的马尔可夫性质，提供了一个计算高效的训练目标。该评分规则使我们能够绕过与签名核相关的计算开销，并将训练复杂度从每轮降低到，其中表示过程的离散化步数。我们证明FDM在计算效率和生成质量方面均优于现有方法，取得了卓越性能。
引用
@article{arxiv.2410.03973,
title = {Efficient Training of Neural Stochastic Differential Equations by Matching Finite Dimensional Distributions},
author = {Jianxin Zhang and Josh Viktorov and Doosan Jung and Emily Pitler},
journal= {arXiv preprint arXiv:2410.03973},
year = {2025}
}