面向高能效CNN推理的特征图变换编码
计算机视觉与模式识别
2021-09-28 v3 机器学习
摘要
卷积神经网络（CNNs）在计算机视觉及更广泛领域的多种任务中达到了最先进的精度。阻碍CNN在低功耗边缘设备上普遍用于推理的主要障碍之一是其高计算复杂度和内存带宽需求。后者在现代硬件上往往主导能耗 footprint。本文受图像与视频压缩启发，提出一种有损变换编码方法，旨在减少因存储中间激活计算结果带来的内存带宽。我们的方法无需微调网络权重，并通过变长编码压缩高度相关的特征图，将主存数据传输量减半。在ResNet-34和MobileNetV2上，以微小精度损失为代价，我们的方法在每值比特数上优于先前方法。我们分析该方法在多种CNN架构上的性能，并证明采用我们方法的ResNet-18的FPGA实现相比量化网络可减少约40%的内存能耗 footprint，精度影响可忽略。当允许至多2%的精度损失时，可实现60%的降低。参考实现见 https://github.com/CompressTeam/TransformCodingInference
引用
@article{arxiv.1905.10830,
title = {Feature Map Transform Coding for Energy-Efficient CNN Inference},
author = {Brian Chmiel and Chaim Baskin and Ron Banner and Evgenii Zheltonozhskii and Yevgeny Yermolin and Alex Karbachevsky and Alex M. Bronstein and Avi Mendelson},
journal= {arXiv preprint arXiv:1905.10830},
year = {2021}
}