DTNN：基于树突树启发神经网络的边缘视觉应用高能效推理
计算机视觉与模式识别
2021-05-26 v1 神经与进化计算
摘要
深度神经网络（DNN）在计算机视觉（CV）中取得了显著成功。然而，DNN 模型的训练与推理均消耗大量内存与计算资源，带来显著的能耗与硅面积开销。尤其推理比训练对成本更为敏感，因为训练可借助强大平台离线完成，而推理可能不得不在形态受限的电池供电设备上进行，特别是对于移动或边缘视觉应用。为加速 DNN 推理，已有模型量化方案提出。但以往工作仅关注量化率，未考虑运算效率。本文提出基于树突树的神经网络（DTNN），利用激活量化支持的查表操作实现高能效推理。在 DTNN 中，推理所需的高成本权重访问与算术计算均被消除。我们在 LeNet-5、MobileNet、VGG、ResNet 等多种 DNN 模型及 MNIST、Cifar10/Cifar100、SVHN、ImageNet 等不同数据集上实验。DTNN 在精度损失可忽略下实现了显著节能（在 ImageNet 上 ResNet-18 与 VGG-11 分别提升 19.4 倍与 64.9 倍）。为进一步验证 DTNN 有效性并与最先进的边缘视觉低能耗实现比较，我们使用商用 FPGA 设计并实现了基于 DTNN 的 MLP 图像分类器。结果表明，FPGA 上的 DTNN 在更高精度下，相比已报道的采用 ASIC 芯片的最先进低能耗方法，在能耗与延迟上均有数量级优势。
引用
@article{arxiv.2105.11848,
title = {DTNN: Energy-efficient Inference with Dendrite Tree Inspired Neural Networks for Edge Vision Applications},
author = {Tao Luo and Wai Teng Tang and Matthew Kay Fei Lee and Chuping Qu and Weng-Fai Wong and Rick Goh},
journal= {arXiv preprint arXiv:2105.11848},
year = {2021}
}