Domino：解耦因果建模与自回归草案的具象解码框架
量子物理
2026-05-29 v1
摘要
具象解码通过为多个 token 进行草案并用目标模型并行验证来加速 LLM 推理。然而，其实际加速受限于草案质量与草案成本之间的权衡：自回归草案器建模了草案 token 之间的因果依赖，但产生顺序开销；并行草案器降低了草案成本，但削弱了块内依赖建模。在本文中，我们提出 Domino，一个解耦因果依赖建模与高成本自回归草案执行的具象解码框架。Domino 首先使用并行草案主干为整个块产生初步草案分布，然后应用轻量级 Domino 头部以前缀依赖因果信息对其进行细化。为稳定 teacher-forced 因果编码，我们进一步引入基于 base-anchored 的训练课程，首先加强并行主干，然后逐渐将优化从加强的并行主干转向最终分布的因果校正。在 Qwen3 模型上的实验表明，Domino 在 Transformers 后端下实现最高可达 5.49 倍的端到端加速，在 SGLang 推理服务下实现最高可达 5.8 倍的吞吐量加速。
引用
@article{arxiv.2605.29706,
title = {Finite-key feasibility of geostationary quantum key distribution},
author = {Vaisakh Mannalath and Víctor Zapatero and Marcos Curty},
journal= {arXiv preprint arXiv:2605.29706},
year = {2026}
}