由神经生物学模型动力学编码且无需梯度下降的学习
机器学习
2021-03-25 v2 人工智能
神经与进化计算
摘要
最先进的机器学习的成功本质上都基于梯度下降算法的不同变体，这些算法最小化某种形式的代价或损失函数。然而，一个根本性的限制是需要通过监督或无监督方式，将系统暴露于通常大量的训练样本来进行训练。在此，我们引入一种根本新颖的机器学习概念方法，其利用受神经生物学启发的动态信号模型，并受网络几何结构的约束。我们表明，MNIST图像可通过几何网络的动力学以无监督方式被唯一编码和分类，达到近乎最先进的准确率，且无需任何训练。
引用
@article{arxiv.2103.08878,
title = {Learning without gradient descent encoded by the dynamics of a neurobiological model},
author = {Vivek Kurien George and Vikash Morar and Weiwei Yang and Jonathan Larson and Bryan Tower and Shweti Mahajan and Arkin Gupta and Christopher White and Gabriel A. Silva},
journal= {arXiv preprint arXiv:2103.08878},
year = {2021}
}
备注
Version 2 includes a new subsection 4.1 and associated table and figure benchmarking our biologically-inspired neural network against a traditional ANN