ShiftAddNet:一种受硬件启发的深度网络
机器学习
2025-03-04 v2
摘要
乘法(例如卷积)可以说是现代深度神经网络(DNNs)的基石。然而,密集的乘法导致昂贵的资源开销,制约了DNNs在资源受限边缘设备上的部署,催生了若干无乘法深度网络的尝试。本文提出ShiftAddNet,其主要灵感来源于节能硬件实现中的常见做法,即乘法可用加法和逻辑位移来替代完成。我们利用这一思想以这种方式显式参数化深度网络,产生一类仅包含位移和加性权重层的新型深度网络。这种受硬件启发的ShiftAddNet立即带来节能的推理与训练,且不牺牲相对于标准DNNs的表达能力。这两种互补的操作类型(位移与加法)进一步实现对模型学习容量的更细粒度控制,带来准确率与(训练)效率之间更灵活的权衡,以及针对量化和剪枝的鲁棒性提升。我们进行了大量实验和消融研究,均以基于FPGA的ShiftAddNet实现和能耗测量为支撑。与现有DNNs或其他无乘法模型相比,ShiftAddNet大幅降低超过80%的DNNs训练与推理的硬件量化能耗,同时提供相当或更好的准确率。代码与预训练模型见 https://github.com/RICE-EIC/ShiftAddNet。
引用
@article{arxiv.2010.12785,
title = {ShiftAddNet: A Hardware-Inspired Deep Network},
author = {Haoran You and Xiaohan Chen and Yongan Zhang and Chaojian Li and Sicheng Li and Zihao Liu and Zhangyang Wang and Yingyan Celine Lin},
journal= {arXiv preprint arXiv:2010.12785},
year = {2025}
}
备注
Accepted by NeurIPS 2020