转换器的神经科学

神经科学长期为人工神经网络的发展提供信息，但现代架构的成功性反过来引发了反向问题：现代网络能否为大脑功能提供教训？本文检讨了皮层柱的结构，提出转换器为多个皮层微电路组织元素提供了自然的计算类比。虽然我们不主张转换器方程在大脑中实际实现，但我们开发了一种假设性的映射，将转换器操作与层流皮层特征对应起来，将该类比作为分析和讨论的框架。该映射允许我们更深入地探讨如何在皮层电路中分布上下文选择、内容路由、循环整合以及跨层转化。为此，我们生成了一组关于层 Specialization、上下文调制、树突整合、振荡协调以及皮层柱有效连接性的广泛预测和可实验检验的假设。该提案旨作为结构性假设，而非关于皮层计算的最终论述。将转换器操作与皮层结构置于常见的描述框架中，使问题更加清晰，揭示新的功能对应关系，并为系统神经科学与现代AI之间的相互交流开辟了一条富有成果性的途径。更广泛地说，本观点表明，在计算组织层面上比较大脑和架构可以为两者提供真正的见解。