单个神经元能解决MNIST吗？生物树突树的计算能力
神经元与认知
2020-09-04 v1
摘要
生理学实验已强调生物神经元的树突如何非线性地处理分布的突触输入。这与人工神经网络中通常除输出非线性外均为线性的单元形成鲜明对比。若树突树可以是非线性的，则生物神经元可能拥有远比其人工对应物更强的计算能力。在此，我们使用一个简单的模型，其中树突被实现为一系列阈值线性单元。我们发现此类树突可轻易解决机器学习问题，如 MNIST 或 CIFAR-10，并且它们受益于同一输入投射到树突树的多个分支。该树突模型是稀疏网络的一个特例。本工作表明，流行的神经元模型可能严重低估了由非线性树突及每对神经元间多个突触这一生物事实所带来的计算能力。下一代人工神经网络可能显著受益于这些受生物启发的树突架构。
引用
@article{arxiv.2009.01269,
title = {Can Single Neurons Solve MNIST? The Computational Power of Biological Dendritic Trees},
author = {Ilenna Simone Jones and Konrad Paul Kording},
journal= {arXiv preprint arXiv:2009.01269},
year = {2020}
}
备注
21 pages, 4 main figures, 1 supplementary figure, 2 tables