通过消除得分函数奇异性来改进流形数据上的欧几里得扩散生成
机器学习
2026-01-06 v3
摘要
欧几里得扩散模型在跨领域的生成建模中取得了显著成功，近期还被扩展至流形情形。与此不同，本文探讨了直接对通用流形结构数据应用欧几里得扩散模型进行采样。我们揭示了在环境空间中得分函数的多尺度奇异性，这阻碍了扩散生成样本的准确性。随后，本文通过在流形的切向和法向方向上分解得分函数，进行详尽的奇异性结构理论分析。为消除奇异性并提高采样精度，本文提出两种新方法：（1）Niso-DM，通过利用非各向同性噪声来减少得分函数中的尺度差异；（2）Tango-DM，仅使用切向损失函数训练得分函数的切向分量。数值实验表明，我们的方法在各种具有复杂几何形状的分布上均实现了卓越的性能。
引用
@article{arxiv.2505.09922,
title = {Improving the Euclidean Diffusion Generation of Manifold Data by Mitigating Score Function Singularity},
author = {Zichen Liu and Wei Zhang and Tiejun Li},
journal= {arXiv preprint arXiv:2505.09922},
year = {2026}
}