中文

对象流形神经处理的统计力学

神经元与认知 2021-06-03 v1 无序系统与神经网络 人工智能

摘要

不变对象识别是大脑执行的最基本的认知任务之一。在神经状态空间中,具有刺激可变性的不同对象被表示为不同的流形。从这一几何视角看,对象识别成为线性分离不同对象流形的问题。在前馈视觉层级中,有观点认为对象流形表示在各层被重新格式化,从而变得更具线性可分性。因此,完整的感知理论需要刻画线性读出网络从可变神经响应中分类对象流形的能力。针对孤立点的感知机理论由E. Gardner开创,她将其表述为统计力学问题并使用副本理论进行分析。在本文中,我们推广Gardner的分析,建立一种线性分类流形的理论,综合高维信号的统计与几何性质。[..]接下来,我们将理论进一步推广到一般感知流形(如点云)的线性分类。我们确定流形的容量由有效半径R_M和有效维度D_M决定。最后,我们展示与真实数据应用相关的扩展,纳入相关流形、异质流形几何、稀疏标签和非线性分类。然后,我们展示基于对象的流形如何在标准深度网络中变换。本论文为对象神经元处理的计算理论奠定基础,提供对象流形线性可分性的定量测度。我们希望该理论能为生物与人工神经网络中感觉表征处理的计算原理提供新见解。

关键词

引用

@article{arxiv.2106.00790,
  title  = {Statistical Mechanics of Neural Processing of Object Manifolds},
  author = {SueYeon Chung},
  journal= {arXiv preprint arXiv:2106.00790},
  year   = {2021}
}

备注

PhD thesis, Harvard University, Cambridge, Massachusetts, USA. 2017. Some chapters report joint work