具有生物学约束的解耦:一种功能细胞类型理论
神经元与认知
2023-04-04 v2 机器学习
神经与进化计算
摘要
大脑中的神经元通常对特定任务变量进行精细调谐。此外,这种解耦的表征在机器学习中也备受青睐。在此,我们从数学上证明,对神经元的简单生物学约束,即活动和权重上的非负性与能量效率,通过强制神经元对任务变化的单一因素变得具有选择性,促进了这种备受青睐的解耦表征。我们证明了这些约束在多种任务和架构中导致解耦,包括变分自编码器。我们还利用该理论解释了大脑为何将其细胞划分为不同的细胞类型,如网格细胞和物体向量细胞,并解释了大脑何时转而针对纠缠的任务因素对表征进行纠缠。总体而言,这项工作从数学上理解了为何大脑中的单个神经元通常表征单个人类可解释的因素,并朝着理解任务结构如何塑造大脑表征结构迈出了一步。
引用
@article{arxiv.2210.01768,
title = {Disentanglement with Biological Constraints: A Theory of Functional Cell Types},
author = {James C. R. Whittington and Will Dorrell and Surya Ganguli and Timothy E. J. Behrens},
journal= {arXiv preprint arXiv:2210.01768},
year = {2023}
}