通过 Mixup-class 提示增强数据自由量化中的泛化能力
计算机视觉与模式识别
2025-07-30 v1 人工智能
摘要
后训练量化（PTQ）提高了效率，但在标定数据有限，尤其在隐私受限情况下，仍面临挑战。数据自由量化（DFQ）通过生成式模型（如生成对抗网络GAN和文本条件潜在扩散模型LDM）生成合成图像来缓解此问题，同时应用现有PTQ算法。然而，生成的合成图像与量化模型在PTQ期间的泛化性之间存在未被充分探讨的关系。缺乏对这一关系的考察，使得基于单类提示的先前提示工程方法生成的合成图像存在多义性，导致性能下降。我们提出了mixup-class提示，即一种基于mixup的文本提示策略，通过在文本提示层面融合多个类别标签来生成多样化、稳健的合成数据。该方法增强了泛化性，提高了PTQ中的优化稳定性。我们通过梯度范数和泛化误差分析提供了定量见解。在卷积神经网络CNN和视觉变换器ViT上的实验表明，我们的方法在像GenQ等数据自由量化最先进方法上 consistently 取得优异性能。进一步地，它在极端低位场景下推动了性能边界，在挑战性的2位权重、4位激活（W2A4）量化中实现了新的状态最佳准确率。
引用
@article{arxiv.2507.21947,
title = {Enhancing Generalization in Data-free Quantization via Mixup-class Prompting},
author = {Jiwoong Park and Chaeun Lee and Yongseok Choi and Sein Park and Deokki Hong and Jungwook Choi},
journal= {arXiv preprint arXiv:2507.21947},
year = {2025}
}