MajorityNets:利用近似 popcount 以提升效率的二值神经网络
信号处理
2020-03-02 v1 机器学习
摘要
二值神经网络(BNNs)在面积、能耗和延迟限制至关重要的嵌入式实现中利用神经网络方面已展现出令人振奋的潜力。借助 BNNs,乘加(MAC)操作可简化为 XnorPopcount 操作,从而大幅减少存储和计算资源。此外,已有多种 BNNs 在 FPGA(现场可编程门阵列)实现上的高效实现被报道。本文受有益于 FPGA 实现的先进 FPGA 查找表方案启发,提出了一种更小、更快、更节能的 XnorPopcount 操作的近似替代方案,称为 XNorMaj。我们表明 XNorMaj 比 XnorPopcount 操作资源效率高出至多 2 倍。尽管 XNorMaj 操作对精度有轻微不利影响,但资源节省使我们能够使用更大的网络来弥补损失。
引用
@article{arxiv.2002.12900,
title = {MajorityNets: BNNs Utilising Approximate Popcount for Improved Efficiency},
author = {Seyedramin Rasoulinezhad and Sean Fox and Hao Zhou and Lingli Wang and David Boland and Philip H. W. Leong},
journal= {arXiv preprint arXiv:2002.12900},
year = {2020}
}
备注
4 pages