超越具身草堆中的针：长上下文推理的环境、架构与训练考量
人工智能
2026-02-20 v3 机器学习
机器人学
摘要
我们提出了∞-THOR，一个用于长时序具身任务的新框架，推进了具身AI中的长上下文理解。∞-THOR提供：（1）一个用于合成可扩展、可重复且无限的长时序轨迹的生成框架；（2）一个新的具身QA任务——具身草堆中的针，其中跨越扩展轨迹的多个分散线索测试智能体的长上下文推理能力；以及（3）一个长时序数据集和基准套件，包含跨越数百个环境步骤的复杂任务，每个任务都配有关真动作序列。为实现此能力，我们探索了架构适配，包括交错的目标-状态-动作建模、上下文扩展技术和上下文并行，以装备基于大语言模型的智能体进行极端长上下文推理和交互。实验结果和分析突出了我们基准测试带来的挑战，并提供了长时序条件下训练策略和模型行为的见解。我们的工作为下一代能够进行稳健长期推理和规划的具身AI系统奠定了基础。
引用
@article{arxiv.2505.16928,
title = {Beyond Needle(s) in the Embodied Haystack: Environment, Architecture, and Training Considerations for Long Context Reasoning},
author = {Bosung Kim and Prithviraj Ammanabrolu},
journal= {arXiv preprint arXiv:2505.16928},
year = {2026}
}