泛化塔网络:一种用于多任务学习的新型深度神经网络架构
机器学习
2018-01-03 v3 机器学习
摘要
深度学习(DL)通过将深度神经网络纳入从输入到 RL 的表示学习中,推进了强化学习(RL)的最先进水平。然而,常规深度神经网络架构在学习多任务 RL(MT-RL)的表示方面存在局限,因为多个任务可能指向不同类型的表示。因此,在本文中我们提出一种新型深度神经网络架构,即泛化塔网络(GTN),它能在单一学习模型中实现 MT-RL。具体而言,GTN 的架构由水平与垂直流组成。在我们的 GTN 架构中,水平流用于学习相似任务间共享的表示。相比之下,引入垂直流以更适于处理多样化任务,其对这些任务的层次共享知识进行编码。所引入垂直流的有效性由实验结果验证。实验结果进一步证实,我们的 GTN 架构通过在 51 个 Atari 游戏上测试,能够推进最先进的 MT-RL。
引用
@article{arxiv.1710.10036,
title = {Generalization Tower Network: A Novel Deep Neural Network Architecture for Multi-Task Learning},
author = {Yuhang Song and Main Xu and Songyang Zhang and Liangyu Huo},
journal= {arXiv preprint arXiv:1710.10036},
year = {2018}
}