迁移价值迭代网络
机器学习
2019-11-28 v2 人工智能
摘要
价值迭代网络(VINs)已被证明对跨相似领域的强化学习任务具有良好的泛化能力。然而,基于我们的实验,VINs 学到的策略在动作空间与特征空间不同于训练领域的定义域上仍无法良好泛化。本文提出一种基于 VINs 的迁移学习方法,称为迁移 VINs(TVINs),使得从源领域学到的策略仅需少量训练数据即可泛化至目标领域,即便源领域与目标领域具有领域特定的动作与特征。我们通过实证验证,当源领域与目标领域具有相似但不相同的动作与特征空间时,所提 TVINs 优于 VINs。此外,我们表明性能提升在不同环境、迷宫尺寸、数据集规模以及不同超参数(如迭代次数与核大小)下均保持一致。
引用
@article{arxiv.1911.05701,
title = {Transfer Value Iteration Networks},
author = {Junyi Shen and Hankz Hankui Zhuo and Jin Xu and Bin Zhong and Sinno Jialin Pan},
journal= {arXiv preprint arXiv:1911.05701},
year = {2019}
}