中文

高维大脑中微小神经集成的不合理有效性

人工智能 2022-05-17 v2 神经元与认知

摘要

尽管学界对大脑复杂性的共识广为流传,但单神经元革命的萌芽早在20世纪70年代便已出现在神经科学中。它们带来了许多意想不到的发现,包括祖母细胞或概念细胞,以及大脑中信息的稀疏编码。在机器学习领域,长期以来著名的维数灾难似乎是一个无法解决的问题。然而,维数祝福的思想正逐渐变得越来越流行。非交互或弱交互简单单元的集成被证明是解决本质上的高维问题的有效工具。这种方法对于大型遗留人工智能系统中错误的一次性(非迭代)纠正尤其有用。复杂性时代中的这些简单性革命有着植根于高维数据空间几何的深刻基本原因。为了探索和理解这些原因,我们重访统计物理学的背景思想。在20世纪进程中,它们被发展为测度集中理论。新的随机分离定理揭示了数据云的精细结构。我们回顾并分析了处于基本问题核心的生物学、物理学和数学问题:高维大脑如何通过简单工具在数据的高维世界中组织可靠且快速的学习?我们回顾了两个关键应用以例证该方法:智能系统中的一次性错误纠正,以及单神经元集成中静态与联想记忆的出现。

关键词

引用

@article{arxiv.1809.07656,
  title  = {The unreasonable effectiveness of small neural ensembles in high-dimensional brain},
  author = {A. N. Gorban and V. A. Makarov and I. Y. Tyukin},
  journal= {arXiv preprint arXiv:1809.07656},
  year   = {2022}
}

备注

Review paper, accepted in Physics of Life Reviews; minor corrections