使用多视图任务条件神经网络的持续学习
机器学习
2020-07-14 v3 机器学习
摘要
传统深度学习模型在顺序学习多个任务方面能力有限。持续学习中遗忘已学任务的问题被称为灾难性遗忘或干扰。当输入数据或学习目标发生变化时，持续模型会学习并适应新状态。然而，模型不会记住或识别对先前状态的任何重访，这导致在处理数据或目标中周期性或不规则重现的变化时性能下降与再训练曲线。目标或数据的变化在持续学习模型中被称为新任务。多数持续学习方法具有任务已知设定，即学习任务身份事先为模型所知。我们提出多视图任务条件神经网络（Mv-TCNN），其无需预先知晓重现任务。我们在标准数据集 MNIST、CIFAR10、CIFAR100 以及我们在远程医疗健康监测研究中收集的真实世界数据集（即 TIHM 数据集）上评估模型。所提模型在持续学习及适应未预先定义的新任务方面优于 SOTA 方案。
引用
@article{arxiv.2005.05080,
title = {Continual Learning Using Multi-view Task Conditional Neural Networks},
author = {Honglin Li and Payam Barnaghi and Shirin Enshaeifar and Frieder Ganz},
journal= {arXiv preprint arXiv:2005.05080},
year = {2020}
}
备注
10 pages