UltraGen：基于层次注意力的高分辨率视频生成
计算机视觉与模式识别
2025-10-22 v1
摘要
近期视频生成技术的进展使得能够产生视觉上引人入目的数据，在内容创作、娱乐和虚拟现实等领域具有广泛应用。然而，大多数现有基于扩散转换器的视频生成模型仅限于低分辨率输出（<=720P），由于注意力机制相对于输出宽度和高度呈二次计算复杂度。这种计算瓶颈使得原生高分辨率视频生成（1080P/2K/4K）在训练和推理中难以实现。为此，我们提出 UltraGen，一个新颖的视频生成框架，实现(i) 高效且 (ii) 端到端原生高分辨率视频合成。具体而言，UltraGen 具备基于全局-局部注意力分解的层次双分支注意力架构，将完整注意力解耦为用于高保真区域内容的局部注意力分支和用于整体语义一致性的全局注意力分支。我们进一步提出了空间压缩的全局建模策略以高效学习全局依赖项，以及层次跨窗口局部注意力机制以降低计算成本同时增强不同局部窗口之间的信息流。广泛实验表明，UltraGen 能够有效地将预训练的低分辨率视频模型扩展到 1080P 乃至 4K 分辨率，凭借在定性和定量评估中超越现有最先进方法和超分辨率基于两阶段管道的优势。
引用
@article{arxiv.2510.18775,
title = {UltraGen: High-Resolution Video Generation with Hierarchical Attention},
author = {Teng Hu and Jiangning Zhang and Zihan Su and Ran Yi},
journal= {arXiv preprint arXiv:2510.18775},
year = {2025}
}