DietCNN：面向量化 CNN 的无乘法推理
计算机视觉与模式识别
2023-08-21 v2 机器学习
性能
摘要
对具备机器智能的联网嵌入式系统的需求增长，一直是研究界在资源受限嵌入式设备上实现基于卷积神经网络（CNN）推理的持续尝试的催化剂。通过去除昂贵乘法操作来重新设计 CNN，已在降低推理能耗方面显示出有前景的结果。本文提出一种用查表替换 CNN 中乘法的新方法。与完全修改 CNN 操作的现有方法不同，所提方法保留了主要 CNN 操作的语义。遵循 CNN 层操作的现有机制确保了标准 CNN 的可靠性得以保持。结果表明，所提出的基于单一激活码本的无乘法 CNN，在 MNIST-LeNet-5、CIFAR10-VGG-11 和 Tiny ImageNet-ResNet-18 的 FPGA 实现中，分别可实现每次推理能耗降低 4.7 倍、5.6 倍和 3.5 倍。我们的结果显示，DietCNN 方法显著改善了嵌入式系统中常用较小模型的深度推理资源消耗与延迟。我们的代码见：https://github.com/swadeykgp/DietCNN
引用
@article{arxiv.2305.05274,
title = {DietCNN: Multiplication-free Inference for Quantized CNNs},
author = {Swarnava Dey and Pallab Dasgupta and Partha P Chakrabarti},
journal= {arXiv preprint arXiv:2305.05274},
year = {2023}
}
备注
Supplementary for S. Dey, P. Dasgupta and P. P. Chakrabarti, "DietCNN: Multiplication-free Inference for Quantized CNNs," 2023 International Joint Conference on Neural Networks (IJCNN), Gold Coast, Australia, 2023, pp. 1-8, doi: 10.1109/IJCNN54540.2023.10191771