具有低硬件需求的类 ResNet 架构
计算机视觉与模式识别
2020-10-22 v2
摘要
在现代识别系统中，计算量最密集的部分之一是用于图像分类、分割、增强和识别的深度神经网络推理。边缘计算的日益普及促使我们寻求减少其在移动和嵌入式设备上耗时的方法。减少神经网络推理时间的一种方法是修改神经元模型，使其在特定设备上的计算更高效。此类模型的一个例子是双极性形态神经元模型。双极性形态神经元基于以加法和最大值运算替代乘法的思想。该模型已在 LeNet 类架构的简单图像分类中得到验证 [1]。在本文中，我们提出了一种双极性形态 ResNet (BM-ResNet) 模型，其由复杂得多的 ResNet 架构通过将其各层转换为双极性形态层得到。我们将 BM-ResNet 应用于 MNIST 和 CIFAR-10 数据集上的图像分类，准确率仅分别从 99.3% 微降至 99.1% 和从 85.3% 微降至 85.1%。我们还估算了所得模型的计算复杂度。我们表明，对于大多数 ResNet 层，所考虑模型实现所需的逻辑门减少 2.1-2.9 倍，且延迟降低 15-30%。
引用
@article{arxiv.2009.07190,
title = {ResNet-like Architecture with Low Hardware Requirements},
author = {Elena Limonova and Daniil Alfonso and Dmitry Nikolaev and Vladimir V. Arlazarov},
journal= {arXiv preprint arXiv:2009.07190},
year = {2020}
}
备注
Accepted to ICPR 2020. Corrected typos and bibliography formatting