丘脑皮层对神经系统中解决信用分配问题的贡献
神经元与认知
2021-04-06 v1
摘要
动物大脑进化出在动态变化环境中优化行为的能力,选择使未来奖励最大化的动作。大量实验工作表明,这种优化改变了神经环路的连接,将环境输入适当地映射到行为输出。一个重大的未解决科学问题是,当感觉输入、所采取动作、带奖励的环境上下文之间的关系模糊时,如何完成必须针对负责奖励的连接进行的最优连接调整。正确针对导致奖励的线索、上下文和动作的计算问题分别被称为结构、上下文和时间信用分配。在本综述中,我们考察了针对这三类问题的先前方法,并提出大脑专门的神经架构提供高效解决方案的观点。在此框架下,丘脑及其与皮层和基底神经节的相互作用作为信用分配的系统级解决方案。具体而言,我们提出丘脑皮层相互作用是元学习的位点,其中丘脑提供参数化皮层活动关联空间的皮层控制功能。通过选择这些控制功能,基底神经节在两个时间尺度上分层引导丘脑皮层可塑性以实现元学习。较快的时间尺度建立上下文关联以实现快速行为灵活性,而较慢的时间尺度实现对新上下文的泛化。在此框架下纳入不同的丘脑控制功能,阐明了丘脑皮层-基底神经节相互作用如何同时解决三个信用分配问题。
引用
@article{arxiv.2104.01474,
title = {Thalamocortical contribution to solving credit assignment in neural systems},
author = {Mien Brabeeba Wang and Michael M. Halassa},
journal= {arXiv preprint arXiv:2104.01474},
year = {2021}
}