通过比特级信息保持实现持续学习
机器学习
2022-03-17 v4
摘要
持续学习处理依次学习不同任务的设定。尽管已有诸多已有方案，多数仍面临严重的遗忘或高昂的内存开销。本文中，针对这些问题，我们首先从信息论视角研究持续学习过程，观察到模型遗忘源于学习新任务时其参数上来自先前任务的信息增益的丧失。基于此观点，我们提出一种称为比特级信息保持（BLIP）的新型持续学习方法，通过在比特级更新参数来保持参数的信息增益，可方便地通过参数量化实现。具体而言，BLIP 首先在新任务上以权重量化训练神经网络，然后估计任务数据提供的各参数信息增益，以确定需冻结的比特以防止遗忘。我们在从分类任务到强化学习任务的广泛实验中验证了该方法，结果表明相较先前最优方法，我们的方法取得了更优或相当的结果。事实上，BLIP 在整个持续学习中实现了近乎零遗忘，且仅需常数级内存开销。
引用
@article{arxiv.2105.04444,
title = {Continual Learning via Bit-Level Information Preserving},
author = {Yujun Shi and Li Yuan and Yunpeng Chen and Jiashi Feng},
journal= {arXiv preprint arXiv:2105.04444},
year = {2022}
}
备注
CVPR2021