基于 OOD 检测与任务掩码的持续学习
计算机视觉与模式识别
2022-03-18 v1 机器学习
摘要
现有持续学习技术要么关注任务增量学习（TIL）问题，要么关注类增量学习（CIL）问题，而非两者兼顾。CIL 与 TIL 的主要区别在于：测试时 TIL 为每个测试样本提供任务标识，而 CIL 不提供。针对某一问题设计的持续学习方法在另一问题上存在局限。本文提出一种基于分布外（OOD）检测与任务掩码的新型统一方法，称为 CLOM，以同时解决两个问题。其核心创新在于：每个任务被训练为 OOD 检测模型而非传统监督学习模型，并训练任务掩码以保护各任务防止遗忘。我们的评估表明 CLOM 大幅优于现有最先进基线。CLOM 在六个实验上的平均 TIL/CIL 准确率为 87.6/67.9%，而最佳基线仅分别为 82.4/55.0%。
引用
@article{arxiv.2203.09450,
title = {Continual Learning Based on OOD Detection and Task Masking},
author = {Gyuhak Kim and Sepideh Esmaeilpour and Changnan Xiao and Bing Liu},
journal= {arXiv preprint arXiv:2203.09450},
year = {2022}
}