MAN++：用于视觉任务监督局部学习的缩放动量辅助网络
计算机视觉与模式识别
2026-03-31 v2
摘要
深度学习通常依赖端到端反向传播进行训练，这种方法在参数优化过程中存在更新锁定、GPU 内存消耗高以及缺乏生物学合理性等固有问题。相比之下，监督局部学习试图通过将网络划分为多个局部块并设计独立的辅助网络来分别更新每个块，以缓解这些挑战。然而，由于梯度仅在单个局部块内传播，会导致性能下降，使得监督局部学习无法取代端到端反向传播。为了解决这些限制并促进块间信息流动，我们提出了动量辅助网络++（MAN++）。MAN++ 通过利用来自相邻块的参数的指数移动平均（EMA）引入了动态交互机制，以增强整个网络中的通信。通过 EMA 更新的辅助网络有效地弥合了块之间的信息鸿沟。值得注意的是，我们观察到由于局部块之间的特征差异，直接应用 EMA 参数可能是次优的。为了解决这个问题，我们引入了一个可学习的缩放偏置来平衡特征差异，从而进一步提高性能。我们利用多种网络架构，在包括图像分类、目标检测和图像分割在内的任务上通过大量实验验证了 MAN++。实验结果表明，MAN++ 实现了与端到端训练相当的性能，同时显著降低了 GPU 内存使用量。因此，MAN++ 为监督局部学习提供了新的视角，并为传统训练方法提供了可行的替代方案。
引用
@article{arxiv.2507.16279,
title = {MAN++: Scaling Momentum Auxiliary Network for Supervised Local Learning in Vision Tasks},
author = {Junhao Su and Feiyu Zhu and Hengyu Shi and Tianyang Han and Yurui Qiu and Junfeng Luo and Xiaoming Wei and Jialin Gao},
journal= {arXiv preprint arXiv:2507.16279},
year = {2026}
}
备注
Accepted by TPAMI