约束引导的神经网络模型量化
机器学习
2025-09-15 v2
摘要
随着深度学习在越来越多的应用中得到部署，在边缘设备上部署神经网络变得越来越重要。边缘计算硬件通常资源有限，无法运行高复杂度的神经网络。为了降低神经网络的复杂度，近年来提出了大量的量化方法。本工作提出了约束引导的模型量化（CGMQ），这是一种量化感知训练算法，它利用计算资源的上界来降低神经网络参数的位宽。CGMQ 不需要调整超参数即可得到满足预定义计算成本约束的混合精度神经网络，而先前的工作则需要。在 MNIST 和 CIFAR10 上的实验表明，CGMQ 的性能与最先进的量化感知训练算法相当，同时保证了由边缘硬件计算资源定义的计算复杂度上界得到满足。
引用
@article{arxiv.2409.20138,
title = {Constraint Guided Model Quantization of Neural Networks},
author = {Quinten Van Baelen and Peter Karsmakers},
journal= {arXiv preprint arXiv:2409.20138},
year = {2025}
}
备注
16 pages, 8 tables, 1 figure