基于注意力的特征压缩用于边缘计算中的CNN推理卸载
计算机视觉与模式识别
2023-02-13 v2
摘要
本文研究设备-边缘协同推理系统中CNN推理的计算卸载。受新兴范式语义通信启发，我们提出一种基于自编码器的新型CNN架构（AECNN），用于在终端设备上进行有效特征提取。我们基于CNN中的通道注意力方法设计特征压缩模块，通过选择最重要特征来压缩中间数据。为进一步降低通信开销，可使用熵编码消除压缩数据中的统计冗余。在接收端，我们设计轻量解码器，通过从接收到的压缩数据学习来重构中间数据以提升精度。为加速收敛，我们采用逐步方法训练基于ResNet-50架构获得的神经网络。实验结果表明，AECNN可将中间数据压缩超过256倍且仅约4%精度损失，优于最先进工作BottleNet++。相较于将推理任务直接卸载至边缘服务器，AECNN可更早完成推理任务，尤其在恶劣无线信道条件下，这凸显了AECNN在时延约束内保障更高精度的有效性。
引用
@article{arxiv.2211.13745,
title = {Attention-based Feature Compression for CNN Inference Offloading in Edge Computing},
author = {Nan Li and Alexandros Iosifidis and Qi Zhang},
journal= {arXiv preprint arXiv:2211.13745},
year = {2023}
}
备注
Accepted by IEEE ICC 2023