lilGym：基于强化学习的自然语言视觉推理基准
机器学习
2023-05-30 v3 人工智能
计算与语言
摘要
我们提出 lilGym，一个用于视觉环境中语言条件强化学习的新基准。lilGym 基于 2,661 条高度组合、锚定于交互式视觉环境的人写自然语言语句。我们引入一种通过用可执行 Python 程序标注所有语句来在每一个可能世界状态下进行精确奖励计算的新方法。每条语句与多个起始状态和奖励函数配对，形成数千个难度各异的不同马尔可夫决策过程。我们使用不同模型和学习机制在 lilGym 上实验。我们的结果与分析表明，尽管现有方法能取得非平凡表现，lilGym 仍构成一个具有挑战性的开放问题。lilGym 可在 https://lil.nlp.cornell.edu/lilgym/ 获取。
引用
@article{arxiv.2211.01994,
title = {lilGym: Natural Language Visual Reasoning with Reinforcement Learning},
author = {Anne Wu and Kianté Brantley and Noriyuki Kojima and Yoav Artzi},
journal= {arXiv preprint arXiv:2211.01994},
year = {2023}
}
备注
ACL 2023 Long Paper