基于熵的自回归图像生成：提升质量与速度
计算机视觉与模式识别
2025-10-21 v2
摘要
本文首先回顾了当前自回归（AR）图像生成模型中的采样问题，指出图像标记（token）与文本标记之间在信息密度和非均匀空间分布方面存在差异。基于此，我们提出了一种受熵信息驱动的解码策略，以实现更高的自回归生成质量和更快的合成速度。具体而言，所提方法包含两个主要创新点：1）引入基于标记分布空间熵的动态温度控制，旨在提升基于掩码和尺度方法的模型在内容多样性、对齐精确性和结构一致性之间的平衡，无需额外计算开销；2）在投机解码中引入熵感知接受规则，实现约为常规加速方法85%推理成本下的近无损生成。广泛的实验在多个基准上使用多样化的AR图像生成模型表明，我们的方法在提升生成质量和采样速度方面具有有效性和通用性。
引用
@article{arxiv.2510.09012,
title = {Towards Better & Faster Autoregressive Image Generation: From the Perspective of Entropy},
author = {Xiaoxiao Ma and Feng Zhao and Pengyang Ling and Haibo Qiu and Zhixiang Wei and Hu Yu and Jie Huang and Zhixiong Zeng and Lin Ma},
journal= {arXiv preprint arXiv:2510.09012},
year = {2025}
}
备注
Code is available at https://github.com/krennic999/ARsample