UltraGen：基于层次局部注意力的高效超高分辨率图像生成

超高分辨率文本到图像生成日益重要于需要精细纹理和全局结构保真的应用，但目前领先的文本到图像扩散模型如 FLUX 和 SD3 仍受限于亚 200 万像素（< $1K\times2K$）分辨率，这源于注意力机制的二次复杂度以及稀缺的高质量高分辨率训练数据的限制。我们提出 \textbf{\ourwork}，一种新型框架，引入层次局部注意力与低分辨率全局指导，实现在超高分辨率下的高效、可扩展且语义连贯的图像合成。具体而言，高分辨率潜变量被划分为与硬件对齐的固定大小局部窗口，以降低注意力复杂度从二次降至接近线性；同时，配备比例位置嵌入的低分辨率潜变量作为锚点，注入全局语义。轻量级 LoRA 适配器在去噪过程中桥接全局与局部路径，确保结构与细节的一致性。为最大化推理效率并实现可扩展的超高分辨率生成，我们对 token 序列进行窗口优先重排，使得 GPU 友好的稠密局部块在注意力计算中等于固定大小的 2D 局部窗口，无论分辨率如何。\ourwork 可靠地将预训练模型扩展到超过 $8K$ 分辨率，速度提升超过 $10\times$，显存显著降低。广泛实验表明，\ourwork 在保持计算效率的同时实现卓越质量，为推动超高分辨率图像生成树立了实用范式。