HPFF：基于分块特征融合的分层局部监督学习
计算机视觉与模式识别
2024-07-10 v2
摘要
传统深度学习依赖于端到端的反向传播进行训练，但存在高内存消耗且不符合生物神经网络等问题。近期研究引入了局部监督学习，将网络划分为具有隔离梯度的模块并进行局部训练。然而，这种方法由于模块之间交互有限，可能导致性能滞后，同时辅助网络的设计占用一定GPU内存。为克服这些限制，我们提出了一种新型模型HPFF，实现分层局部监督学习和分块级别特征计算。分层局部监督学习（HiLo）使网络能够沿着各自的局部路径在不同粒度水平上学习特征。具体而言，将网络划分为两级局部模块：独立局部模块和级联局部模块。级联局部模块组合两个相邻的独立局部模块，包含模块内部的更新以及相邻模块之间的信息交换。分块特征融合（PFF）通过将辅助网络的输入特征划分为分块进行计算，从而降低GPU内存使用。随后对这些分块级别的特征进行平均处理，可增强网络对那些在多个分块中广泛存在的模式的关注度。此外，我们的方法具有强大的泛化能力，可无缝集成到现有技术中。我们在CIFAR-10、STL-10、SVHN和ImageNet数据集上进行实验，结果表明，我们提出的HPFF显著优于以往方法，在不同数据集上始终实现了最先进的性能。我们的代码已公开：https://github.com/Zeudfish/HPFF。
引用
@article{arxiv.2407.05638,
title = {HPFF: Hierarchical Locally Supervised Learning with Patch Feature Fusion},
author = {Junhao Su and Chenghao He and Feiyu Zhu and Xiaojie Xu and Dongzhi Guan and Chenyang Si},
journal= {arXiv preprint arXiv:2407.05638},
year = {2024}
}
备注
Accepted by ECCV2024