神经科学启发的机器学习综述
神经与进化计算
2024-03-29 v1 机器学习
摘要
对深度学习的一项主要批评在于其用于学习的信用分配方案(即误差反向传播)在生物学上是不合理的。这种不合理性转化为跨科学领域的实际局限性,包括与硬件及不可微实现的不可兼容性,从而导致高昂的能耗需求。相比之下,生物学上合理的信用分配与几乎任何学习条件兼容且节能。因此,它能够适应硬件和科学建模,例如利用物理系统和不可微行为进行学习。此外,它可以促成实时、自适应的神经形态处理系统的开发。在解决这一问题的过程中,人工智能研究的一个位于神经科学、认知科学与机器学习交叉领域的跨学科分支应运而生。在本文中,我们综述了几种在人工神经网络中对生物学上合理的信用分配规则进行建模的重要算法,讨论了它们为不同科学领域提供的解决方案,以及它们在 CPU、GPU 和新型神经形态硬件实现上的优势。最后,我们讨论了未来需要应对的挑战,以使此类算法在实际应用中更加有用。
引用
@article{arxiv.2403.18929,
title = {A Review of Neuroscience-Inspired Machine Learning},
author = {Alexander Ororbia and Ankur Mali and Adam Kohan and Beren Millidge and Tommaso Salvatori},
journal= {arXiv preprint arXiv:2403.18929},
year = {2024}
}
备注
13 Pages, 1 figure