AccuQuant:用于量化扩散模型的模拟多个去噪步骤
计算机视觉与模式识别
2025-10-24 v1
摘要
本文提出一种新颖的后训练量化(PTQ)方法,称为 AccuQuant。我们从理论和实验证明,扩散模型的量化误差在采样过程中积累了多个去噪步骤。为缓解误差积累问题,AccuQuant 通过最小化完整精度扩散模型与其量化版本在少数几个去噪步骤后的输出之间的差异来实现。也就是说,它显式地模拟扩散采样过程中的多个去噪步骤,以量化,考虑多个去噪步骤的累积误差,这与之前通过逐步骤最小化差异来模拟扩散模型训练过程的做法不同。我们还提出了 AccuQuant 的一种高效实现技术,并提出了一种新目标函数,该函数将内存复杂度显著减少,从 降低到 ,其中 为去噪步骤的数量。我们在各种任务和标准基准上的扩散模型上展示了 AccuQuant 的有效性和效率。
引用
@article{arxiv.2510.20348,
title = {AccuQuant: Simulating Multiple Denoising Steps for Quantizing Diffusion Models},
author = {Seunghoon Lee and Jeongwoo Choi and Byunggwan Son and Jaehyeon Moon and Jeimin Jeon and Bumsub Ham},
journal= {arXiv preprint arXiv:2510.20348},
year = {2025}
}
备注
Accepted to NeurIPS 2025