深度学习：具有双权重的人工神经元新定义
神经与进化计算
2019-05-22 v2 机器学习
机器学习
摘要
深度学习是基于学习数据表示的更广泛机器学习方法家族的一个子集。这些模型受人类生物神经系统启发，尽管在生物大脑的结构和功能特性方面存在各种差异。深度学习模型的基本组成单位是神经元，可视为接收输入并产生输出的函数，该输出是经激活函数处理的输入的加权和。多年来提出了几种神经元模型，均基于称为权重的可学习参数。本文我们提出一种新型人工神经元，即双权重神经元，其特征是具有额外的可学习权重，从而构成更复杂且更精确的体系。我们在 MNIST 数据集上测试了由双权重神经元构成的前馈和卷积神经网络，并在 CIFAR-10 数据集上测试了卷积网络。对于 MNIST，与具有相同超参数集的标准前馈和卷积神经网络相比，分类准确率分别提高了约 和约 。对于 CIFAR-10，分类准确率提高了约 。因此我们得出结论，这种新型人工神经元可视为常见神经元的宝贵替代方案。
引用
@article{arxiv.1905.04545,
title = {Deep Learning: a new definition of artificial neuron with double weight},
author = {Adriano Baldeschi and Raffaella Margutti and Adam Miller},
journal= {arXiv preprint arXiv:1905.04545},
year = {2019}
}