约束引导的神经网络模型量化
计算机视觉与模式识别
2024-10-01 v1
摘要
随着深度学习在日益增多的应用中部署，边缘设备上的神经网络部署变得越来越重要。由于边缘计算硬件通常资源有限，无法运行高复杂度的神经网络。为减少神经网络的复杂度，近年来提出了各种量化方法。本文提出了约束引导的模型量化 (CGMQ)，这是一种基于约束的训练算法，使用对计算资源的上限进行量化，降低神经网络参数的位宽。CGMQ 不需要调节超参数即可生成满足预定义计算成本约束的混合精度神经网络，而先前的工作则需要进行超参数调节。在 MNIST 和 CIFAR10 上显示，CGMQ 在性能上与最新的量化感知训练算法竞争，同时保证满足由边缘硬件计算资源定义的计算复杂度上限。
引用
@article{arxiv.2409.20137,
title = {Segmenting Wood Rot using Computer Vision Models},
author = {Roland Kammerbauer and Thomas H. Schmitt and Tobias Bocklet},
journal= {arXiv preprint arXiv:2409.20137},
year = {2024}
}
备注
FZI Workshop - K\"unstliche Intelligenz im Mittelstand (KI-KMU 2024)