广义变分持续学习
机器学习
2020-12-01 v1 机器学习
摘要
持续学习涉及以在线方式在新任务和数据集上训练模型。一系列研究使用概率正则化进行持续学习,该方向两种主要方法是在线弹性权重巩固(Online EWC)和变分持续学习(VCL)。VCL 采用变分推断,在其他设定中已通过应用似然 tempering 在经验上得到改进。我们表明将此修正应用于 VCL 可在极限情况下恢复 Online EWC,从而允许在两种方法间插值。我们将该通用算法称为广义 VCL (GVCL)。为缓解观察到的 VI 的过度剪枝效应,我们从一种常见的多任务架构——具有任务特定 FiLM 层的神经网络——获得启发,发现此添加带来显著性能提升,特别是对变分方法。在小数据机制下,GVCL 大幅优于现有基线。在更大数据集中,带 FiLM 层的 GVCL 在准确率上优于或与现有基线相当,同时还提供了显著更好的校准。
引用
@article{arxiv.2011.12328,
title = {Generalized Variational Continual Learning},
author = {Noel Loo and Siddharth Swaroop and Richard E. Turner},
journal= {arXiv preprint arXiv:2011.12328},
year = {2020}
}