SpikeBottleNet：基于脉冲驱动的边缘-云协推断特征压缩架构
计算机视觉与模式识别
2024-11-08 v2
摘要
边缘-云协推断通过在边缘设备和云服务器之间分割深度神经网络（DNN）架构来实现高效部署，这对于资源受限的边缘设备至关重要。这种方法需要在设备上的计算和通信成本之间进行平衡，通常通过压缩中间特征传输来实现。传统 DNN 架构需要连续的数据处理和浮点激活，导致显著的能源消耗和较大的特征大小，从而增加传输成本。此挑战促使我们探索使用脉冲神经网络（SNN）实现二进制、事件驱动激活，这类网络因其极致能源效率而备受推崇。为此，我们提出 SpikeBottleNet，这是一种用于边缘-云协推断系统的新颖架构，集成了脉冲神经元模型以显著降低边缘设备的能源消耗。我们研究的关键创新是针对 SNN 的中间特征压缩技术，以实现高效特征传输。该技术利用分割计算方法，在像 ResNet 和 MobileNet 这样复杂的深层架构中 strategically 放置编码器-解码器瓶颈单元。实验结果表明，SpikeBottleNet 在 ResNet 最终卷积层实现最高 256 倍位压缩，仅损失 0.16% 的准确率。此外，我们的方法使边缘设备能源效率相对于基线 BottleNet 提高最高 144 倍，使其成为资源受限边缘设备的理想选择。
引用
@article{arxiv.2410.08673,
title = {SpikeBottleNet: Spike-Driven Feature Compression Architecture for Edge-Cloud Co-Inference},
author = {Maruf Hassan and Steven Davy},
journal= {arXiv preprint arXiv:2410.08673},
year = {2024}
}