中文

用于 Forward-Forward 学习的自适应多尺度优度聚合

机器学习 2026-05-20 v1 人工智能

摘要

我们提出了自适应多尺度优度聚合(Adaptive Multi-Scale Goodness Aggregation, AMSGA),这是 Forward-Forward (FF) 算法的一种新颖扩展,旨在提升局部学习神经网络的稳定性、鲁棒性和泛化能力。AMSGA 通过引入跨局部、中间和全局表示的多尺度优度聚合、自适应课程引导的难负样本挖掘、层依赖的自适应阈值,以及用于提升优化稳定性的预热余弦退火学习率调度,解决了原始 FF 框架的若干局限性。这些修改共同增强了 FF 范式,同时保留了其生物学合理性与内存高效特性。在 MNIST 和 Fashion-MNIST 上的实验表明,相较于基线 FF 算法有一致的性能提升,在 MNIST 上实现了高达 +1.45% 的提升,在 Fashion-MNIST 上实现了 +1.50% 的提升,且没有显著的额外计算开销。我们的结果表明,通过精心设计优度估计与训练动态,局部学习方法可以变得更具竞争力。

关键词

引用

@article{arxiv.2605.18804,
  title  = {Adaptive Multi-Scale Goodness Aggregation for Forward-Forward Learning},
  author = {Salar Beigzad and Vansh Verma},
  journal= {arXiv preprint arXiv:2605.18804},
  year   = {2026}
}

备注

6 pages, 5 tables, IEEE format