边缘AI：卷积神经网络模型压缩技术评估
机器学习
2024-09-05 v1 人工智能
计算机视觉与模式识别
摘要
本工作评估了在CIFAR-10数据集上用于图像分类任务的ConvNeXt模型压缩技术。评估了结构化剪枝、非结构化剪枝和动态量化方法，以在保持准确率的同时减少模型大小和计算复杂度。在云平台和边缘设备上进行实验，评估了这些技术的性能。结果显示，结构化剪枝技术可实现模型大小最高可降低75%。此外，动态量化可实现参数数量最高降低95%。经过微调的模型表现出更好的压缩性能，表明在压缩技术中结合预训练的优势。非结构化剪枝方法揭示了准确率和压缩之间的趋势，计算复杂度的降低有限。OTOv3剪枝与动态量化的组合进一步增强了压缩性能，实现了89.7%的大小降低，参数、MACs降低95%，准确率提升3.8%。将最终压缩模型部署到边缘设备上，显示出92.5%的高准确率和20毫秒的低推理时间，验证了在实际边缘计算应用中压缩技术的有效性。
引用
@article{arxiv.2409.02134,
title = {Edge AI: Evaluation of Model Compression Techniques for Convolutional Neural Networks},
author = {Samer Francy and Raghubir Singh},
journal= {arXiv preprint arXiv:2409.02134},
year = {2024}
}