基于对抗 Shapley 值的在线类增量持续学习
机器学习
2021-03-24 v4 计算机视觉与模式识别
机器学习
摘要
随着基于图像的深度学习在从手机到智能手表的所有设备上的普及，对能够从数据中持续学习同时最小化内存占用与功耗的方法的需求日益增长。虽然记忆回放技术在此持续学习任务上展现出卓越前景，但选择回放哪些缓冲图像的最佳方法仍是一个开放问题。本文我们特别关注在线类增量设定，即模型需要从在线数据流持续学习新类别。为此，我们提出了一种新颖的对抗 Shapley 值评分方法，其根据记忆数据样本维持已观测类别潜在决策边界（以保持学习稳定性并避免遗忘）同时干扰正在学习的当前类别潜在决策边界（以鼓励可塑性与新类边界的最优学习）的能力进行评分。总体而言，我们观察到所提出的 ASER 方法在多种数据集上相比最先进的基于回放的持续学习方法提供了有竞争力或改进的性能。
引用
@article{arxiv.2009.00093,
title = {Online Class-Incremental Continual Learning with Adversarial Shapley Value},
author = {Dongsub Shim and Zheda Mai and Jihwan Jeong and Scott Sanner and Hyunwoo Kim and Jongseong Jang},
journal= {arXiv preprint arXiv:2009.00093},
year = {2021}
}
备注
Proceedings of the 35th AAAI Conference on Artificial Intelligence (AAAI-21)