利用生物神经元特性的卷积神经网络
计算机视觉与模式识别
2023-11-15 v1
摘要
在人工智能时代，卷积神经网络（CNNs）等深度神经网络已成为领跑者，常超越人类能力。这些深度网络常被视为解决一切挑战的灵丹妙药。遗憾的是，这些网络的一个常见缺陷是其“黑箱”特性，未必反映生物神经系统的运作。有些甚至拥有数百万/数十亿可学习（可调）参数，其训练需要大量数据与时间。在此，我们将生物神经元原理整合进CNN的某些层中。具体而言，我们探索受神经科学启发的外侧膝状体（LGN）与初级视觉皮层简单细胞计算模型的使用。借助此类模型，我们旨在提取图像特征作为CNN的输入，以期提升训练效率并获得更好精度。我们致力于以简单细胞的推挽式感受野组合（PP-CORF）模型作为CNN的基础层，赋能浅层网络，以增强其学习过程与性能。为此，我们提出一种双塔CNN，一塔为浅层，另一塔为ResNet 18。它并非盲目提取特征，而是试图模仿大脑感知与提取特征的方式。所提系统在CIFAR-10、CIFAR-100与ImageNet-100数据集上相较ResNet-18表现出显著性能提升（平均）。我们也检验了网络中仅推挽塔的效率。
引用
@article{arxiv.2311.08314,
title = {Convolutional Neural Networks Exploiting Attributes of Biological Neurons},
author = {Neeraj Kumar Singh and Nikhil R. Pal},
journal= {arXiv preprint arXiv:2311.08314},
year = {2023}
}
备注
20 pages, 6 figures