CNN优化方法比较研究：探讨早期退出在边缘AI中的作用
人工智能
2026-04-17 v1
摘要
在边缘设备上部署深度神经网络需要在准确率、延迟和资源约束之间的实际执行条件下进行权衡。为适应这些约束，两种主要策略已涌现：一种是静态压缩技术，如剪枝和量化，这些技术永久性地减小模型规模；另一种是动态方法，如早期退出机制，这些技术在运行时适应计算成本。虽然这两大类方法在孤立情况下广泛研究，但在物理硬件上以相同条件进行比较却很少见。本文提出了一种面向部署的静态压缩和动态早期退出机制的统一比较，评估于使用ONNX基于推理管道的真实边缘设备上。我们的结果表明，静态和动态技术为边缘部署提供了根本不同的权衡。虽然剪枝和量化可实现一致的内存占用缩减，但早期退出机制可实现输入适应的计算节省，这些静态方法无法实现。它们的组合证明极其有效，同时在保持最小准确率损失的前提下显著减少推理延迟和内存使用，拓展了在边缘端可实现的范围。
引用
@article{arxiv.2604.14789,
title = {A Comparative Study of CNN Optimization Methods for Edge AI: Exploring the Role of Early Exits},
author = {Nekane Fernandez and Ivan Valdes and Steven Van Vaerenbergh and Idoia de la Iglesia and Julen Arratibel},
journal= {arXiv preprint arXiv:2604.14789},
year = {2026}
}