基于软胜出子网络的无遗忘持续学习
机器学习
2023-03-28 v1 人工智能
计算机视觉与模式识别
神经与进化计算
摘要
受正则化彩票假设（RLTH）的启发——该假设指出在持续学习任务中，稠密网络内存在具有竞争力的平滑（非二值）子网络——我们研究了两种提出的基于架构的持续学习方法，它们依次为每个任务学习并选择自适应的二值子网络（WSN）与非二值软子网络（SoftNet）。WSN 和 SoftNet 联合学习正则化模型权重以及与各任务相关的任务自适应非二值掩码，同时试图通过复用先前子网络的权重来选出一小部分待激活的权重（胜出票）。我们提出的 WSN 和 SoftNet 在任务增量学习（TIL）中天然免疫于灾难性遗忘，因为每个被选中的子网络模型不会侵犯其他子网络。在 TIL 中，每个胜出票生成的二值掩码被编码为一个 N 位二值数字掩码，随后使用霍夫曼编码进行压缩，使网络容量随任务数量呈亚线性增长。令人惊讶的是，在推理步骤中，通过向已获取的 WSN 的背景注入小噪声（保持 WSN 的前景）而生成的 SoftNet，为 TIL 中未来任务提供了优异的前向迁移能力。SoftNet 在正则化参数以应对少样本类增量学习（FSCIL）中少量样本过拟合问题上，展现出优于 WSN 的有效性。
引用
@article{arxiv.2303.14962,
title = {Forget-free Continual Learning with Soft-Winning SubNetworks},
author = {Haeyong Kang and Jaehong Yoon and Sultan Rizky Madjid and Sung Ju Hwang and Chang D. Yoo},
journal= {arXiv preprint arXiv:2303.14962},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2209.07529