中文

大脑如何表征与进行概率计算的全新理论

神经元与认知 2018-02-23 v4 计算机视觉与模式识别 神经与进化计算

摘要

大脑被认为实现概率推理并通过群体或分布式编码表示信息。大多数先前的基于群体的概率(PPC)理论共享几个基本属性:1)连续值神经元;2)完全(密集)分布式编码,即所有(大多数)单元参与每一个编码;3)渐变突触;4)速率编码;5)单元具有先天的单峰调谐函数(TFs);6)内在噪声单元;7)噪声/相关性被认为有害。我们提出一个根本不同的理论,假设:1)二元单元;2)仅一小部分单元,即稀疏分布式表示(SDR)(细胞集合),构成任何个体编码;3)二元突触;4)信号形式仅需要单个(即首次)脉冲;5)单元最初具有完全平坦的 TFs(所有权重为零);6)单元的内在噪声远小于传统认为的;相反 7)噪声是生成/使用的资源,以导致相似输入映射到相似编码,控制存储容量与将输入空间统计嵌入在存储编码上的交集模式中的权衡,并附带决定神经元间的相关模式。该理论 Sparsey 在 20 多年前作为实现高效序列学习/识别的规范皮层电路/算法模型被引入,但未详述作为 PPC 理论的替代。这里,我们展示:a) 活跃 SDR 同时表示最相似/可能的输入和所有存储输入(假设)上的整个(粗略排序的)相似似然/分布;b) 给定输入,SDR 编码选择算法(支撑学习和推理)以随存储项目增加保持恒定的步骤数更新最可能假设和整个似然分布(参见信念更新)。

关键词

引用

@article{arxiv.1701.07879,
  title  = {A Radically New Theory of how the Brain Represents and Computes with Probabilities},
  author = {Gerard Rinkus},
  journal= {arXiv preprint arXiv:1701.07879},
  year   = {2018}
}

备注

33 pages, 10 figures - Sec. explaining single cell tuning fns as artifacts of embedding SDRs in superposition removed (for future paper) - Clarified that a given SDR code represents the whole likelihood distribution over stored hypotheses at a coarsely-ranked level of fidelity (Submitted for review)