中文

因果强制:高质量实时交互式视频生成的自回归扩散蒸馏

计算机视觉与模式识别 2026-05-22 v3

摘要

为实现实时交互式视频生成,当前方法将预训练的双向视频扩散模型蒸馏为少步自回归 (AR) 模型,面临在完全注意力替换为因果注意力时的架构鸿沟。然而,现有方法未从理论上弥合这一鸿沟。它们通过 ODE 蒸馏初始化 AR 学生,要求帧级单射性——即每个噪声帧在 AR 教师的 PF-ODE 下必须唯一映射到干净帧。从双向教师蒸馆 AR 学生违反了此条件,导致无法恢复教师的流图,从而诱导条件期望解,进而降低性能。为此,我们提出因果强制 (Causal Forcing) 方法,采用自回归教师进行 ODE 初始化以弥合架构鸿沟,然后沿用 Self Forcing 中的相同 DMD 步骤。实验结果显示,我们的方法在所有指标上均优于所有基线,相较于 SOTA Self Forcing 在 Dynamic Degree 提升 19.3%,在 VisionReward 提升 8.7%,在 Instruction Following 提升 16.7%。项目页面:https://thu-ml.github.io/CausalForcing.github.io/;代码:https://github.com/thu-ml/Causal-Forcing。

关键词

引用

@article{arxiv.2602.02214,
  title  = {Causal Forcing: Autoregressive Diffusion Distillation Done Right for High-Quality Real-Time Interactive Video Generation},
  author = {Hongzhou Zhu and Min Zhao and Guande He and Hang Su and Chongxuan Li and Jun Zhu},
  journal= {arXiv preprint arXiv:2602.02214},
  year   = {2026}
}

备注

Project page and the code: \href{https://thu-ml.github.io/CausalForcing.github.io/}{https://thu-ml.github.io/CausalForcing.github.io/}; https://github.com/thu-ml/Causal-Forcing. ICML 2026