稀疏-LaViDa: 稀疏多模态离散扩散语言模型
泛函分析
2025-12-17 v1
摘要
掩码离散扩散模型（MDMs）在图像理解、生成和编辑等众多多模态任务上取得了优异性能。然而,由于需在每个采样步骤反复处理冗余的掩码标记,其推理速度仍不理想。本文提出稀疏-LaViDa,一种新型建模框架,在每个推理步骤动态截断不必要的掩码标记以加速MDM采样。为保持生成质量,我们引入特定的寄存器标记作为被截断标记的紧凑表示。此外,为确保训练与推理一致,我们设计了特定的注意力掩码,忠实匹配被截断采样过程。基于最先进的统一MDM LaViDa-O,稀疏-LaViDa在包括文本到图像生成、图像编辑和数学推理等多项任务上实现了最高可达2倍的加速,同时保持了生成质量。
引用
@article{arxiv.2512.14006,
title = {Fuglede theorem for symmetric spaces of $\tau$-measurable operators},
author = {Denis Potapov and Fedor Sukochev and Anna Tomskova and Dmitriy Zanin},
journal= {arXiv preprint arXiv:2512.14006},
year = {2025}
}