Kaizen：基于持续微调的实用自监督持续学习
机器学习
2024-02-08 v2
摘要
自监督学习（SSL）在离线训练时于计算机视觉任务中展现出卓越性能。然而，在新数据逐步引入的持续学习（CL）场景下，模型仍遭受灾难性遗忘。从头重训模型以适应新生成的数据耗时且低效。先前方法建议复用自监督目标并结合知识蒸馏以缓解跨任务遗忘，并假设微调时所有任务标签均可用。本文在一个实用设定下推广自监督持续学习，其中可用标签可在 SSL 过程的任意步骤被利用。随着持续任务数量增加，这为预训练与微调阶段提供了更大灵活性。通过 Kaizen，我们引入一种训练架构，借助精心设计的损失函数，能够缓解特征提取器与分类器的灾难性遗忘。利用一组反映持续学习不同方面的综合评估指标，我们证明 Kaizen 在竞争性视觉基准上显著优于先前的 SSL 模型，在 split CIFAR-100 上准确率提升达 16.5%。Kaizen 能够以端到端模型平衡知识保留与从新数据学习的权衡，为持续学习系统的实际部署铺平道路。
引用
@article{arxiv.2303.17235,
title = {Kaizen: Practical Self-supervised Continual Learning with Continual Fine-tuning},
author = {Chi Ian Tang and Lorena Qendro and Dimitris Spathis and Fahim Kawsar and Cecilia Mascolo and Akhil Mathur},
journal= {arXiv preprint arXiv:2303.17235},
year = {2024}
}
备注
Presented at IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2024. The code for this work is available at https://github.com/dr-bell/kaizen