基于哈密顿 - 雅可比 - 贝尔曼方程张量火车近似的生成建模
机器学习
2024-02-26 v1 机器学习
统计理论
统计理论
摘要
从概率密度中采样是不确定性量化（UQ）和生成建模（GM）等领域中的常见挑战。特别是在 GM 中，依赖于 Ornstein-Uhlenbeck 前向过程对数密度的逆时扩散过程是一种流行的采样工具。Berner 等人 [2022] 指出，这些对数密度可以通过求解随机最优控制中已知的哈密顿 - 雅可比 - 贝尔曼（HJB）方程获得。虽然该 HJB 方程通常采用策略迭代和无监督训练黑盒架构（如神经网络）等间接方法处理，但我们提出通过直接时间积分来求解 HJB 方程，并使用以张量火车（TT）格式表示的压缩多项式进行空间离散化。关键在于，该方法无需采样，对归一化常数不可知，并且由于 TT 压缩可以避免维数灾难。我们提供了 HJB 方程作用于张量火车多项式的完整推导，并在 20 维非线性采样任务上展示了所提出的时间步长、秩和阶数自适应积分方法的性能。
引用
@article{arxiv.2402.15285,
title = {Generative Modelling with Tensor Train approximations of Hamilton--Jacobi--Bellman equations},
author = {David Sommer and Robert Gruhlke and Max Kirstein and Martin Eigel and Claudia Schillings},
journal= {arXiv preprint arXiv:2402.15285},
year = {2024}
}