LODAP：基于轻量化操作与数据剪枝的设备内增量学习
机器学习
2025-04-29 v1 新兴技术
摘要
随着模型部署后持续学习新类别的需求日益增长，尤其在工业边缘系统中，因难以与远程服务器通信进行计算密集型学习而成为关键挑战。本文提出LODAP框架，为边缘系统设计一种新型设备内增量学习方案。核心组件为高效增量模块（EIM），其由标准卷积与轻量化操作组成。增量学习期间，EIM利用称为adapter的轻量化操作，高效且经济地学习新类别特征，从而在提升增量学习准确率的同时，降低模型复杂度及训练开销。通过数据剪枝策略进一步优化LODAP效率，可显著减少训练数据量，从而降低训练负担。我们在CIFAR-100和Tiny-ImageNet数据集上进行大量实验。实验结果表明，LODAP在提升准确率方面较现有方法提升最高可达4.32%，同时将模型复杂度降低约50%。此外，在实际边缘系统上的评估表明其适用于设备内机器学习。代码已公开于https://github.com/duanbiqing/LODAP。
引用
@article{arxiv.2504.19638,
title = {LODAP: On-Device Incremental Learning Via Lightweight Operations and Data Pruning},
author = {Biqing Duan and Qing Wang and Di Liu and Wei Zhou and Zhenli He and Shengfa Miao},
journal= {arXiv preprint arXiv:2504.19638},
year = {2025}
}