基于编码器的终身学习
计算机视觉与模式识别
2018-07-19 v1 人工智能
机器学习
摘要
本文介绍了一种新的终身学习解决方案,其中单个模型被训练用于一系列任务。在此情境下,视觉系统面临的主要挑战是灾难性遗忘:由于它们倾向于适应最近见过的任务,因此在先前学习过的任务上的性能会下降。我们的方法旨在通过使用自编码器在学习新任务的同时保留先前任务的知识。对于每个任务,学习一个欠完备自编码器,捕获对其完成至关重要的特征。当新任务呈现给系统时,我们防止这些自编码器对特征的重构发生改变,这起到了保留先前任务主要依赖的信息的作用。同时,由于仅控制特征向低维子流形的投影,特征被给予空间以适应最新的环境。所提出的系统在图像分类任务上进行了评估,结果表明与现有技术相比,遗忘程度有所降低。
引用
@article{arxiv.1704.01920,
title = {Encoder Based Lifelong Learning},
author = {Amal Rannen Triki and Rahaf Aljundi and Mathew B. Blaschko and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:1704.01920},
year = {2018}
}