受自然启发的局部传播

机器学习（包括生成式 AI 的最新进展）所取得的惊人成果依赖于大规模数据集。相反，自然界中的智能过程无需此类数据集即可产生，而仅仅通过对环境信息的在线处理来实现。具体而言，自然学习过程依赖于数据表示与学习相互交织的机制，以遵循时空局部性。本文表明，这种特征源于受理论物理学相关研究启发的学习的前算法观点。我们证明了所推导出的具有哈密顿方程结构的“学习定律”的算法解释，在传播速度趋于无穷大时会退化为反向传播。这为基于完全在线信息处理的机器学习研究打开了大门，这些研究将反向传播替换为所提出的时空局部算法。