面向扩散大语言模型的前瞻路径似然优化
机器学习
2026-02-04 v1
摘要
扩散大语言模型（dLLMs）支持任意顺序生成，但其推理性能严重依赖于遮蔽顺序。现有策略依赖于基于局部置信度的启发式方法，为识别全局一致且准确的遮蔽路径提供的指导有限。为弥合这一差距，我们引入路径对数似然（Path LL），这是一种与下游准确性高度相关的轨迹条件目标，能够原则性地选择遮蔽路径。为在推理阶段优化 Path LL，我们提出了 POKE，这是一个高效的值估计器，预测部分解码轨迹的未来预期 Path LL。我们将这种前瞻信号整合到 POKE-SMC 中，该方法基于顺序蒙特卡洛（SMC）的搜索框架，用于动态识别最优遮蔽路径。在6个推理任务上的大量实验表明，POKE-SMC 在准确率上一致实现提升，相较于强大的解码时间扩展基线平均提升2%--3%，在相当的推理开销下表现出色，并推动了准确率-计算帕累托前沿的前移。
引用
@article{arxiv.2602.03496,
title = {Lookahead Path Likelihood Optimization for Diffusion LLMs},
author = {Xuejie Liu and Yap Vit Chun and Yitao Liang and Anji Liu},
journal= {arXiv preprint arXiv:2602.03496},
year = {2026}
}