FactorSim:基于因子分解表示的生成式仿真
人工智能
2024-11-12 v2 机器人学
摘要
从自然语言输入、用户输入或任务文档生成仿真以训练游戏玩家和机器人中的智能代理,仍是一个开放的挑战。现有方法聚焦于此挑战的部分方面,例如生成奖励函数或任务超参数。不同于以往工作,我们引入FACTORSIM,从语言输入生成可用于训练智能体的完整仿真代码。利用仿真代码特有的结构模块性,我们提出使用因子分解的部分可观测马尔可夫决策过程表示,以减少每一步生成中的上下文依赖。在评估方面,我们引入一个生成式仿真基准,评估生成仿真代码的准确性和在强化学习设置中促进零样本迁移的有效性。我们展示了FACTORSIM在生成仿真方面在提示对齐(例如准确性)、零样本迁移能力和人类评估方面均优于现有方法。我们还证明了其在生成机器人任务方面的有效性。
引用
@article{arxiv.2409.17652,
title = {FactorSim: Generative Simulation via Factorized Representation},
author = {Fan-Yun Sun and S. I. Harini and Angela Yi and Yihan Zhou and Alex Zook and Jonathan Tremblay and Logan Cross and Jiajun Wu and Nick Haber},
journal= {arXiv preprint arXiv:2409.17652},
year = {2024}
}
备注
neurips 2024, project website: https://cs.stanford.edu/~sunfanyun/factorsim/