ReActXGB：一种用于提升性能与计算效率的混合二值卷积神经网络架构
机器学习
2024-05-15 v1 计算机视觉与模式识别
摘要
二值卷积神经网络(BCNN)为降低深度神经网络(DNN)的内存需求和计算成本提供了一种潜在解决方案。然而，在性能与计算资源之间取得平衡仍然是一项重大挑战。此外，BCNN的全连接层已演变为显著的计算瓶颈。这主要是由于传统做法为避免精度大幅下降而将输入层和全连接层排除在二值化之外。本文提出了一种名为ReActXGB的混合模型，其中我们将ReActNet-A的全卷积层替换为XGBoost。此修改旨在缩小BCNN与实值网络之间的性能差距，同时保持较低的计算成本。在FashionMNIST基准上的实验结果表明，ReActXGB在top-1准确率上比ReActNet-A高出1.47%，同时浮点运算次数(FLOPs)减少了7.14%，模型大小减少了1.02%。
引用
@article{arxiv.2405.08020,
title = {ReActXGB: A Hybrid Binary Convolutional Neural Network Architecture for Improved Performance and Computational Efficiency},
author = {Po-Hsun Chu and Ching-Han Chen},
journal= {arXiv preprint arXiv:2405.08020},
year = {2024}
}
备注
Accepted to ICCE-TW 2024