深度学习模型的无数据解析量化方案
计算机视觉与模式识别
2025-09-10 v3 机器学习
摘要
尽管CNN模型在多种图像分类和分割任务上取得了成功，但其广泛的计算和存储需求对资源受限设备的实际部署构成了相当大的挑战。量化是一种旨在通过将模型参数精度降低到低位表示来缓解这些大存储需求并加速推理过程的技术。本文提出了一种新颖的训练后量化方法，用于模型权重。我们的方法寻找最优裁剪阈值和缩放因子，并提供数学保证，证明该方法最小化了量化噪声。在真实数据集上的实验结果表明，我们的量化方案在保持模型精度的同时显著减少了模型大小和计算需求。
引用
@article{arxiv.2412.07391,
title = {A Data-Free Analytical Quantization Scheme for Deep Learning Models},
author = {Ahmed Luqman and Khuzemah Qazi and Murray Patterson and Malik Jahan Khan and Imdadullah Khan},
journal= {arXiv preprint arXiv:2412.07391},
year = {2025}
}
备注
Accepted for publication in IEEE International Conference on Data Mining (ICDM 2025)