深度卷积神经网络参数化对训练后量化的影响
信息论
2025-10-13 v2 math.IT
摘要
本文为量化神经网络的输出引入了新的理论近似界,重点关注卷积神经网络 (CNN)。通过考虑逐层参数化并聚焦于权重的量化,我们提供的界相比经典深度卷积神经网络(如 MobileNetV2 或 ResNets)上的最新结果,在数量级上提升了几个量级。这些提升是通过改善近似界相对于深度参数的行为实现的,深度参数对量化引入的近似误差影响最大。为了补充我们的理论结果,我们在 MobileNetV2 和 ResNets 上对我们的界进行了数值探索。
引用
@article{arxiv.2502.01156,
title = {On the impact of the parametrization of deep convolutional neural networks on post-training quantization},
author = {Samy Houache and Jean François Aujol and Yann Traonmilin},
journal= {arXiv preprint arXiv:2502.01156},
year = {2025}
}