几何神经扩散过程
机器学习
2023-07-12 v1 机器学习
摘要
去噪扩散模型已被证明是一种灵活且有效的生成建模范式。其近期向无限维欧氏空间的扩展使得对随机过程建模成为可能。然而，自然科学中的许多问题包含对称性并涉及生活在非欧氏空间中的数据。在本工作中，我们将扩散模型框架扩展以在无限维建模中引入一系列几何先验。我们通过以下方式实现：a) 构造一个加噪过程，其极限分布为在感兴趣对称群下变换的几何高斯过程；b) 用相对于该群等变的神经网络逼近得分函数。我们表明在这些条件下，生成函数模型具有相同的对称性。我们利用一种新颖的基于Langevin的条件采样器，展示了模型在合成与真实天气数据上拟合具有欧氏和球面余域的复杂标量与矢量场的可扩展性与能力。
引用
@article{arxiv.2307.05431,
title = {Geometric Neural Diffusion Processes},
author = {Emile Mathieu and Vincent Dutordoir and Michael J. Hutchinson and Valentin De Bortoli and Yee Whye Teh and Richard E. Turner},
journal= {arXiv preprint arXiv:2307.05431},
year = {2023}
}