虚拟环境中类人语言习得的深度组合框架
计算与语言
2017-05-23 v3 机器学习
摘要
我们处理这样一个任务：智能体学习在称为 XWORLD 的 2D 迷宫环境中进行导航。在每个会话中，智能体感知一系列原始像素帧、一条由教师发出的自然语言指令以及一组奖励。智能体以基于接地且组合的方式从零开始学习教师的语言，使得训练后它能够正确执行零样本指令：1) 指令中的词语组合从未出现过，和/或 2) 指令包含从另一任务中习得但从未在导航任务中学习过的新对象概念。我们为智能体提出的深度框架是端到端训练的：它同时学习环境的视觉表示、语言的句法和语义，以及输出动作的动作模块。我们框架的零样本学习能力源于其组合性和带有参数绑定的模块化。我们可视化了该框架的中间输出，证明智能体真正理解了如何解决问题。我们相信，我们的结果为如何在 3D 环境中训练具有类似能力的智能体提供了一些初步见解。
引用
@article{arxiv.1703.09831,
title = {A Deep Compositional Framework for Human-like Language Acquisition in Virtual Environment},
author = {Haonan Yu and Haichao Zhang and Wei Xu},
journal= {arXiv preprint arXiv:1703.09831},
year = {2017}
}