面向物理学习的无反向传播神经网络训练的局部学习方法
机器学习
2026-04-21 v2 计算工程、金融与科学
摘要
尽管反向传播和自动微分推动了深度学习的成功,但芯片制造的物理限制和深度学习日益增加的环境成本动力促使出现替代性学习范例,如物理神经网络。然而,大多数现有物理神经网络仍依赖数字计算进行训练,主要是因为在物理系统中实现反向传播和自动微分困难。我们引入FFzero,一个无反向传播或自动微分的前向学习框架,实现稳定的神经网络训练。FFzero结合了层级局部学习、原型基表示和通过仅前向评估实现的方向导数优化。我们展示,在前向-only优化下,局部学习有效,而反向传播失败。FFzero可推广到多层感知器和卷积神经网络,适用于分类和回归。在以模拟光子神经网络为例时,我们展示FFzero为实现无反向传播的原位物理学习提供了可行之路。
引用
@article{arxiv.2603.24790,
title = {Local learning for stable backpropagation-free neural network training towards physical learning},
author = {Yaqi Guo and Fabian Braun and Bastiaan Ketelaar and Stephanie Tan and Richard Norte and Siddhant Kumar},
journal= {arXiv preprint arXiv:2603.24790},
year = {2026}
}