前向兼容的小样本类增量学习
计算机视觉与模式识别
2022-03-15 v1 机器学习
摘要
新类别在我们的动态变化世界中频繁出现，例如认证系统中的新用户，机器学习模型应能在不遗忘旧类的前提下识别新类。当新类样本不足时该场景更具挑战性，称为小样本类增量学习（FSCIL）。当前方法通过使更新后模型近似旧模型来回溯式处理增量学习。相反，我们建议前瞻式学习以预备未来更新，并提出面向FSCIL的前向兼容训练（FACT）。前向兼容性要求未来新类能基于当前阶段数据被轻易纳入当前模型，我们试图通过为未来新类预留嵌入空间来实现它。具体而言，我们分配虚拟原型以压缩已知类的嵌入并为新类预留空间。此外，我们预测可能的新类并为更新过程做准备。虚拟原型使模型能接受未来的可能更新，其作为散布于嵌入空间中的代理，在推理时构建更强的分类器。FACT以前向兼容性高效整合新类，同时抵抗对旧类的遗忘。大量实验验证了FACT的SOTA性能。代码见：https://github.com/zhoudw-zdw/CVPR22-Fact
引用
@article{arxiv.2203.06953,
title = {Forward Compatible Few-Shot Class-Incremental Learning},
author = {Da-Wei Zhou and Fu-Yun Wang and Han-Jia Ye and Liang Ma and Shiliang Pu and De-Chuan Zhan},
journal= {arXiv preprint arXiv:2203.06953},
year = {2022}
}
备注
Accepted to CVPR 2022. Code is available at: https://github.com/zhoudw-zdw/CVPR22-Fact