加速超低功耗设备上的深度可分离卷积
机器学习
2024-06-19 v1 分布式、并行与集群计算
摘要
深度可分离卷积是高效深度神经网络中的基本组件，由于相较于传统卷积减少参数和运算量，同时保持可比的准确率。然而，其低的数据重复利用机会使得在部署时极具挑战性。在本文中，我们对替代方案进行了广泛的探索，以融合构成可分离卷积块的depthwise和pointwise核。我们的目标是通过结合不同的数据布局来最小化耗时的内存传输。当针对具有三级内存层次的商业超低功耗设备(GreenWaves GAP8 SoC)进行优化时，我们减少了端到端网络执行延迟最高可达11.40%。此外，我们的内核通过最高可达52.97%地减少L2和L1之间激活数据传输。
引用
@article{arxiv.2406.12478,
title = {Accelerating Depthwise Separable Convolutions on Ultra-Low-Power Devices},
author = {Francesco Daghero and Alessio Burrello and Massimo Poncino and Enrico Macii and Daniele Jahier Pagliari},
journal= {arXiv preprint arXiv:2406.12478},
year = {2024}
}
备注
Accepted at the XXIV International Conference on Embedded Computer Systems: Architectures, Modeling and Simulation (SAMOS2024), June 29 - July 4, 2024