利用长期特征库推进超越分类的监督式局部学习
计算机视觉与模式识别
2025-08-05 v4 人工智能
摘要
局部学习为深度神经网络中传统的端到端反向传播提供了一种替代方案，显著降低了GPU内存消耗。尽管它在图像分类任务中已展现出潜力，但其向其他视觉任务的扩展却十分有限。这一局限性主要源于两个因素：1) 专门为分类设计的架构不易适应其他任务，这阻碍了从针对不同问题设计的架构中有效复用任务特定知识；2) 这些以分类为中心的架构通常缺乏跨尺度特征通信，导致在目标检测和超分辨率等任务中性能下降。为应对这些挑战，我们提出了特征库增强辅助网络（FBA），它引入了一种简化的设计原则，并整合了一个特征库以增强跨任务适应性和通信。这项工作代表了局部学习方法首次成功应用于分类之外的任务，证明了FBA不仅能节省GPU内存，还能在多种视觉任务的多个数据集上达到与端到端方法相当的性能。
引用
@article{arxiv.2406.00446,
title = {Advancing Supervised Local Learning Beyond Classification with Long-term Feature Bank},
author = {Feiyu Zhu and Yuming Zhang and Xiuyuan Guo and Hengyu Shi and Junfeng Luo and Junhao Su and Jialin Gao},
journal= {arXiv preprint arXiv:2406.00446},
year = {2025}
}