面向异构环境的轨迹世界模型
机器学习
2025-06-10 v2
摘要
跨环境的传感器和执行器异构性对在这些低维传感器信息之上构建大规模预训练世界模型构成了重大挑战。在这项工作中，我们通过解决数据多样性和模型灵活性方面的关键迁移障碍，探索了面向异构环境的世界模型预训练。我们引入了UniTraj，一个包含来自80个环境、超过一百万条轨迹的统一数据集，旨在扩大数据规模的同时保留关键的多样性。此外，我们提出了TrajWorld，一种新颖的架构，能够灵活处理变化的传感器和执行器信息，并在上下文中捕捉环境动态。在UniTraj上预训练TrajWorld在状态转移预测方面取得了显著增益，在离线策略评估中达到了新的最优水平，并在模型预测控制的在线性能上也表现出色。据我们所知，这项工作首次展示了世界模型在异构和复杂控制环境中的迁移效益。代码和数据可在https://github.com/thuml/TrajWorld获取。
引用
@article{arxiv.2502.01366,
title = {Trajectory World Models for Heterogeneous Environments},
author = {Shaofeng Yin and Jialong Wu and Siqiao Huang and Xingjian Su and Xu He and Jianye Hao and Mingsheng Long},
journal= {arXiv preprint arXiv:2502.01366},
year = {2025}
}
备注
ICML 2025. Code is available at https://github.com/thuml/TrajWorld