用图知识注入常识世界模型
计算与语言
2023-01-18 v1 人工智能
摘要
虽然语言模型在生成引人注目的语言方面已变得更有能力，我们发现其在保持一致性方面仍有差距，尤其在描述动态变化世界中的事件时。我们研究在开放世界文本冒险游戏中生成叙事的设置，其中底层游戏状态的图表示可用于训练消耗并输出基础图表示和自然语言描述与动作的模型。我们通过将众包和模拟的游戏玩法与一个新的复杂动作数据集相结合来构建此类模型，从而建立了一组大量任务。我们发现，通过在图上下文和目标上训练，即使测试时不存在图，也可以改善动作叙述模型的一致性。这已在自动指标和人工评估中得到展示。我们计划发布我们的代码、这组新任务以及性能最佳的模型。
引用
@article{arxiv.2301.05746,
title = {Infusing Commonsense World Models with Graph Knowledge},
author = {Alexander Gurung and Mojtaba Komeili and Arthur Szlam and Jason Weston and Jack Urbanek},
journal= {arXiv preprint arXiv:2301.05746},
year = {2023}
}