面向具身问答的神经模块化控制
人工智能
2019-05-06 v2 计算与语言
计算机视觉与模式识别
机器学习
摘要
我们提出了一种模块化方法，用于从语言输入中学习在长规划视野上的导航策略。我们的分层策略在多个时间尺度上运作，其中高层主策略提出由专门子策略执行的子目标。我们所选子目标具有组合性与语义性，即它们可按任意顺序依次组合，并具备人类可解释的描述（例如“离开房间”、“找到厨房”、“找到冰箱”等）。我们使用模仿学习对各层策略进行预热启动，显著提高了样本效率，随后进行强化学习。分层中每一层的独立强化学习使子策略能适应其行动后果并从错误中恢复。随后的联合分层训练使主策略能适应子策略。在House3D（Wu et al., 2018）中极具挑战性的EQA（Das et al., 2018）基准上，要求导航多样化的真实室内环境，我们的方法在导航与问答两方面均大幅优于先前工作。
引用
@article{arxiv.1810.11181,
title = {Neural Modular Control for Embodied Question Answering},
author = {Abhishek Das and Georgia Gkioxari and Stefan Lee and Devi Parikh and Dhruv Batra},
journal= {arXiv preprint arXiv:1810.11181},
year = {2019}
}
备注
10 pages, 3 figures, 2 tables. Published at CoRL 2018. Webpage: https://embodiedqa.org/