你的LLM是否暗藏互联网的世界模型？面向网络智能体的基于模型规划

基于大语言模型（LLM）的语言智能体在自动化网络任务方面展现了巨大潜力。近期研究表明，引入高级规划算法（如树搜索）相较于反应式规划对网络智能体更为有利。然而，与模拟沙箱环境不同，现实世界环境（如网络）充斥着不可逆操作。这削弱了回溯——树搜索的基石——的可行性。过度依赖测试时搜索也会损害效率。我们倡导面向网络智能体的基于模型规划，即利用世界模型在提交某个动作之前模拟并推演每个候选动作的结果。我们通过以下方式系统性地探索了这一范式：（1）提出基于模型规划的框架WebDreamer，该框架使用LLM同时充当世界模型和价值函数；（2）通过可扩展的数据合成流水线训练专门的世界模型LLM。实验结果表明，WebDreamer相较于反应式基线实现了显著的性能提升。它在沙箱环境（VisualWebArena）中与树搜索具有竞争力，同时效率高出4至5倍，并且在真实网站（Online-Mind2Web和Mind2Web-Live）上也有效。此外，我们训练的世界模型Dreamer-7B的性能与GPT-4o相当，凸显了专用世界模型在复杂网络环境中实现高效且有效规划的潜力。