PathNet：超级神经网络中进化引导的梯度下降路径
神经与进化计算
2017-01-31 v1 机器学习
摘要
对于通用人工智能（AGI）而言，若多个用户训练同一个巨型神经网络，允许参数复用且避免灾难性遗忘，将是高效的。PathNet 是朝此方向的第一步。它是一种神经网络算法，使用嵌入神经网络中的智能体，其任务是发现网络哪些部分可重新用于新任务。智能体是通过网络的路径（视图），其确定由反向传播算法的前向与后向传播所使用和更新的参数子集。在学习过程中，使用锦标赛选择遗传算法来选择通过网络进行复制和变异的路径。路径适应度是根据代价函数测量的该路径的性能。我们展示了成功的迁移学习；固定任务 A 上学习到的路径的参数，并为任务 B 重新进化新的路径种群，使得任务 B 比从头学习或微调后学习更快。任务 B 上进化的路径复用了任务 A 上进化的最优路径的部分。在二值 MNIST、CIFAR 和 SVHN 监督学习分类任务，以及一组 Atari 和 Labyrinth 强化学习任务上展示了正迁移，表明 PathNet 对神经网络训练具有普遍适用性。最后，PathNet 还显著提高了并行异步强化学习算法（A3C）对超参数选择的鲁棒性。
引用
@article{arxiv.1701.08734,
title = {PathNet: Evolution Channels Gradient Descent in Super Neural Networks},
author = {Chrisantha Fernando and Dylan Banarse and Charles Blundell and Yori Zwols and David Ha and Andrei A. Rusu and Alexander Pritzel and Daan Wierstra},
journal= {arXiv preprint arXiv:1701.08734},
year = {2017}
}