由生物启发的修正谱单元网络在无误差反向传播下学习层次特征
神经元与认知
2025-12-30 v1
摘要
我们引入了一种受生物启发的多层神经架构，由修正谱单元（ReSUs）组成。每个 ReSU 将其输入历史的近期窗口投影到通过先前观察到的过去-未来输入对的典型相关分析（CCA）获得的规范方向上，然后修正其正分量或负分量。通过在突触权重和时间滤波器中编码规范方向，ReSU 实现了一种局部的、自监督的算法，用于逐步构建日益复杂的特征。为了评估计算能力和生物学保真度，我们在自监督机制下，针对平移自然场景训练了一个双层 ReSU 网络。由单个像素驱动的一层单元发展出了类似于果蝇光感受器后神经元（L1/L2 和 L3）的时间滤波器，包括它们在经验上观察到的对信噪比（SNR）的适应。在第一层上进行空间池化的二层单元变得具有方向选择性——类似于 T4 运动检测细胞——其学习到的突触权重模式近似于从连接组重建中推导出的模式。总之，这些结果表明 ReSU 提供了 (i) 用于建模感觉回路的原理性框架，以及 (ii) 用于构建深度自监督神经网络的具有生物学基础且无需反向传播的范式。
引用
@article{arxiv.2512.23146,
title = {A Network of Biologically Inspired Rectified Spectral Units (ReSUs) Learns Hierarchical Features Without Error Backpropagation},
author = {Shanshan Qin and Joshua L. Pughe-Sanford and Alexander Genkin and Pembe Gizem Ozdil and Philip Greengard and Anirvan M. Sengupta and Dmitri B. Chklovskii},
journal= {arXiv preprint arXiv:2512.23146},
year = {2025}
}