离散最优传输中的能量最小化视角下的掩码扩散模型
机器学习
2026-03-24 v3 人工智能
计算与语言
摘要
我们提出了一个系统性的理论框架，将掩码扩散模型(MDMs)解释为离散最优传输中的能量最小化问题的解。具体而言，我们证明了三种不同的能量形式——动能、条件动能和测地能量——在MDMs的结构下是数学等价的，并且当掩码计划满足闭式最优条件时，MDMs会最小化这三者。这种统一不仅阐明了MDMs的理论基础，还激发了实际采样中的改进动机。通过对插值计划进行Beta分布参数化，我们将计划设计空间缩小到可遍历的2D搜索范围，实现无需修改模型的高效后训练调优。在合成数据和真实数据基准上的实验表明，基于能量的调度计划在低步骤采样设置下优于手工基准，尤其显著。
引用
@article{arxiv.2509.13866,
title = {Masked Diffusion Models as Energy Minimization},
author = {Sitong Chen and Shen Nie and Jiacheng Sun and Zijin Feng and Zhenguo Li and Ji-Rong Wen and Chongxuan Li},
journal= {arXiv preprint arXiv:2509.13866},
year = {2026}
}