余弦方案是掩码离子扩散模型的 Fisher-Rao 最优
机器学习
2025-10-07 v2 机器学习
摘要
在本工作中,我们研究了在掩码离子扩散模型中选择离子化方案的問題,以概率路径的資訊几何為標準。我們特別指出, 在 Fisher-Rao 幾何下的最優方案恢復了廣泛使用的餘弦方案。
引用
@article{arxiv.2508.04884,
title = {The Cosine Schedule is Fisher-Rao-Optimal for Masked Discrete Diffusion Models},
author = {Leo Zhang and Saifuddin Syed},
journal= {arXiv preprint arXiv:2508.04884},
year = {2025}
}
备注
PreprintV2