基于双记忆递归自组织的时空表征终身学习
人工智能
2018-12-20 v4
摘要
在复杂环境中交互的人工自主智能体与机器人需要在持续长时间内不断获取并微调知识。从连续信息流中学习的能力被称为终身学习,并因灾难性遗忘而成为神经网络模型长期存在的挑战。终身学习的计算模型通常在给定静态图像数据集与有限复杂度的实验场景中缓解灾难性遗忘,因而与人工智能体所暴露的条件显著不同。在更自然的设定中,序列信息可能随时间逐步可用,且对以往经验的访问可能受限。本文提出一种用于终身学习场景的双记忆自组织架构。该架构包含两个增长的递归网络,分别承担互补任务:学习对象实例(情景记忆)与类别(语义记忆)。两个增长网络均可响应新颖感官经验而扩展:情景记忆以无监督方式学习对象实例的细粒度时空表征,而语义记忆利用任务相关信号调节结构可塑性水平并从情景经验中发展出更紧凑的表征。为在无外部感官输入时巩固知识,情景记忆周期性重放神经再激活轨迹。我们在 CORe50 基准数据集上评估所提模型用于连续对象识别,显示在三种不同增量学习场景中显著优于当前终身学习方法。
引用
@article{arxiv.1805.10966,
title = {Lifelong Learning of Spatiotemporal Representations with Dual-Memory Recurrent Self-Organization},
author = {German I. Parisi and Jun Tani and Cornelius Weber and Stefan Wermter},
journal= {arXiv preprint arXiv:1805.10966},
year = {2018}
}