在无旧数据情况下唤醒过往概念：基于在线安慰剂的类增量学习
计算机视觉与模式识别
2023-10-26 v1 机器学习
摘要
在模型持续适应新类别时，不遗忘旧类知识是类增量学习（CIL）的一个关键挑战。解决该问题的常用技术是知识蒸馏（KD），其对新旧模型之间的预测不一致进行惩罚。由于 CIL 中严格的内存限制导致旧类数据极其稀少，此类预测几乎都是使用新类数据做出的。本文深入研究了 KD 损失，发现“使用新类数据进行 KD”不仅阻碍模型适应（学习新类），还导致保留旧类知识的效率低下。我们通过“使用旧类的安慰剂进行 KD”来解决该问题，其中安慰剂以自动且经济的方式从免费图像流（如 Google Images）中选取。为此，我们训练了一个在线安慰剂选择策略，以快速评估流图像的质量（好或坏安慰剂），并仅将好的安慰剂用于一次前向计算的 KD。我们将策略训练过程表述为在线马尔可夫决策过程（MDP），并引入一种在线学习算法来求解该 MDP 问题而不引起过多计算开销。实验中，我们表明我们的方法 1）即使安慰剂与原始旧类数据之间无类别重叠也出奇有效，2）不需要任何额外监督或内存预算，3）显著优于多种高性能 CIL 方法，尤其是在旧类样本内存预算较低时（如每类五个样本）。
引用
@article{arxiv.2310.16115,
title = {Wakening Past Concepts without Past Data: Class-Incremental Learning from Online Placebos},
author = {Yaoyao Liu and Yingying Li and Bernt Schiele and Qianru Sun},
journal= {arXiv preprint arXiv:2310.16115},
year = {2023}
}
备注
Accepted to WACV 2024. Code: https://github.com/yaoyao-liu/online-placebos