基于扩散的神经调制可消除简单神经网络中的灾难性遗忘
神经与进化计算
2018-02-07 v3
摘要
人工智能的一个长期目标是创造出能够在其生命周期内学习多种技能并通过经验不断改进这些技能的智能体。实现这一目标的一个长期障碍是灾难性遗忘，即学习新信息会抹除先前学到的信息。灾难性遗忘发生在推动了近期人工智能大多数进展的人工神经网络（ANN）中。最近的一篇论文提出，可以通过促进模块化来减少人工神经网络中的灾难性遗忘，模块化通过将任务信息隔离到特定的节点和连接簇（功能模块）中来限制遗忘。尽管先前的工作确实表明模块化的人工神经网络遭受的灾难性遗忘较少，但它未能产生具有任务特定功能模块的人工神经网络，从而使得关于模块化与遗忘的主要理论未得到检验。我们引入了基于扩散的神经调制，它模拟了人工神经网络内扩散性神经调节化学物质的释放，这些化学物质可以在空间区域内调节（即上调或下调）学习。在先前工作的简单诊断问题上，基于扩散的神经调制 1) 在节点和连接组中诱导了任务特定的学习（任务特定的局部学习），2) 为每个子任务产生了功能模块，并且 3) 通过消除灾难性遗忘获得了更高的性能。总体而言，我们的结果表明，基于扩散的神经调制促进了任务特定的局部学习和功能模块化，这有助于解决灾难性遗忘这一具有挑战性但又重要的问题。
引用
@article{arxiv.1705.07241,
title = {Diffusion-based neuromodulation can eliminate catastrophic forgetting in simple neural networks},
author = {Roby Velez and Jeff Clune},
journal= {arXiv preprint arXiv:1705.07241},
year = {2018}
}