DiverseAR: 提升逐位自回归图像生成中的多样性
计算机视觉与模式识别
2025-12-03 v1
摘要
本文研究了逐位自回归 (AR) 生成模型中样本多样性这一未被充分探索的挑战。我们首先分析了限制逐位 AR 模型多样性的因素,并识别出两个关键问题:(1) 逐位建模的二分类本质,限制了预测空间;(2) 过于尖锐的 logits 分布,导致采样坍缩并降低多样性。基于这些洞察,我们提出了 DiverseAR,一种原则性且有效的方法,在不牺牲视觉质量的前提下增强图像多样性。具体而言,我们引入了一种自适应的 logits 分布缩放机制,在采样过程中动态调整二进制输出分布的尖锐度,从而产生更平滑的预测和更大的多样性。为缓解分布平滑可能导致的保真度损失,我们进一步开发了一种基于能量的生成路径搜索算法,避免采样低置信度的 token,从而保持高视觉质量。大量实验表明,DiverseAR 显著提升了逐位自回归图像生成中的样本多样性。
引用
@article{arxiv.2512.02931,
title = {DiverseAR: Boosting Diversity in Bitwise Autoregressive Image Generation},
author = {Ying Yang and Zhengyao Lv and Tianlin Pan and Haofan Wang and Binxin Yang and Hubery Yin and Chen Li and Chenyang Si},
journal= {arXiv preprint arXiv:2512.02931},
year = {2025}
}
备注
23 pages