NetworkFF:面向单向神经网络的统一层优化
机器学习
2025-12-23 v2
摘要
前向-前向算法通过双前向传递(正负数据)消除了反向传播的内存限制和生物学不可信性。然而,传统实现 suffer from critical inter-layer isolation,即各层独立优化良好函数,缺乏对整体学习动力学的利用。这种隔离限制了表征协调,并限制了深层架构的收敛效率。本文引入协同前向-前向(CFF)学习,通过层间协作机制扩展原算法,既保留单向计算,又实现全局上下文集成。我们的框架实现了两种协同范式:固定CFF(F-CFF)采用恒定层间耦合,自适应CFF(A-CFF)采用可演化的可学习协作参数。协同良好函数包含来自所有层的加权贡献,实现协调特征学习,同时保持内存效率和生物学可信性。在MNIST和Fashion-MNIST上的全面评估表明,CFF显著优于基线前向-前向实现。这些发现表明,层间协作是前向-前向学习的根本性提升,具有直接适用于神经形态计算架构和能源受限AI系统的前景。
引用
@article{arxiv.2512.17531,
title = {NetworkFF: Unified Layer Optimization in Forward-Only Neural Networks},
author = {Salar Beigzad},
journal= {arXiv preprint arXiv:2512.17531},
year = {2025}
}
备注
Conference paper, IEEE, 2025