ZipAR:通过空间局部性实现平行自回归图像生成
计算机视觉与模式识别
2025-07-01 v3 人工智能
摘要
本文提出ZipAR,一种无需训练、即插即用的平行解码框架,用于加速自回归(AR)视觉生成。我们的动机源于观察到图像具有局部结构,空间上相互独立的区域往往彼此之间最小化。给定部分解码的视觉标记集合,除了在行维度中的原始下一个标记预测方案外,列维度中对应空间相邻区域的标记可以并行解码,从而实现“next-set prediction”范式。通过在单次前向传播中解码多个标记,生成图像所需的前向传播次数显著减少,显著提高了生成效率。实验表明,ZipAR在Emu3-Gen模型上无需额外重新训练即可将模型前向传递次数降低最高可达91%。代码可在此处获取:https://github.com/ThisisBillhe/ZipAR。
引用
@article{arxiv.2412.04062,
title = {ZipAR: Parallel Auto-regressive Image Generation through Spatial Locality},
author = {Yefei He and Feng Chen and Yuanyu He and Shaoxuan He and Hong Zhou and Kaipeng Zhang and Bohan Zhuang},
journal= {arXiv preprint arXiv:2412.04062},
year = {2025}
}
备注
11 pages