结合脉冲神经网络与人工神经网络以增强图像分类
神经与进化计算
2021-03-02 v2 计算机视觉与模式识别
机器学习
摘要
随着深度神经网络的持续创新,更近似生物脑突触的脉冲神经网络(SNNs)因其低功耗而受到关注。然而,对于连续数据值,它们必须采用编码过程将值转换为脉冲序列。因此,它们尚未超越直接处理此类值的人工神经网络(ANNs)的性能。为此,我们结合 ANN 与 SNN 构建通用的混合神经网络(HNNs)以提升相关性能。为评估该性能,使用 MNIST 和 CIFAR-10 图像数据集进行不同训练与编码方法下的多种分类任务。此外,考虑到各自的编码方法,我们提出同时与分别训练人工层和脉冲层的方法。我们发现以牺牲脉冲层为代价增加人工层数量可提升 HNN 性能。对于 MNIST 等简单数据集,通过使用重复编码和分别学习易于达到与 ANNs 相同的性能。但对于更复杂任务,发现使用高斯编码和同时学习可在利用更少人工层数量的同时提高 HNNs 的精度。
引用
@article{arxiv.2102.10592,
title = {Combining Spiking Neural Network and Artificial Neural Network for Enhanced Image Classification},
author = {Naoya Muramatsu and Hai-Tao Yu},
journal= {arXiv preprint arXiv:2102.10592},
year = {2021}
}
备注
This paper written for DEIM 2021 (https://db-event.jpn.org/deim2021/) has 12 pages, 6 figures and 3 tables