面向神经网络的高效单步增量类学习框架
机器学习
2025-09-16 v1 人工智能
摘要
增量学习始终是机器学习中的一个关键挑战，因为模型在学习新信息时常常面临遗忘旧知识的倾向。这些挑战在资源受限的环境中更为突出。许多现有的类增量学习 (CIL) 方法通过持续调整特征表示来实现高精度，但往往需要大量计算资源和复杂的、迭代的训练程序。本文引入 CIFNet（Class Incremental and Frugal Network），这是一种新颖的 CIL 方法，旨在通过提供高度高效和可持续的解决方案来解决这些限制。CIFNet 的核心创新在于其对若干已存在且各自独立探索的组件的新颖集成：预训练且冻结的特征提取器、压缩数据缓冲区以及用于分类的高效非迭代单层神经网络。预训练且冻结的特征提取器消除了对 backbone 进行计算密集型微调的需求。结合压缩缓冲区实现高效内存使用，使 CIFNet 能够通过对固定特征执行单步骤优化来实现高效类增量学习，最小化计算开销和训练时间，而无需进行多次权重更新。在基准数据集上的实验确认，CIFNet 在分类器层面有效缓解了遗忘现象，实现的准确率与现有最先进方法相当，同时显著提升了训练效率和可持续性。CIFNet 代表着在资源受限环境（尤其是当强大的预训练特征提取器可用时）下，使类增量学习更加可及和务实的重大进步。
引用
@article{arxiv.2509.11285,
title = {Efficient Single-Step Framework for Incremental Class Learning in Neural Networks},
author = {Alejandro Dopico-Castro and Oscar Fontenla-Romero and Bertha Guijarro-Berdiñas and Amparo Alonso-Betanzos},
journal= {arXiv preprint arXiv:2509.11285},
year = {2025}
}