学习为 LLM 代理 contextualize 网页页面以提升决策能力
计算与语言
2025-12-22 v2
摘要
近期大语言模型（LLM）的进展导致越来越多的人关注开发基于 LLM 的代理以自动化 web 任务。然而，这些代理在处理真实网站上的简单任务时常常难以克服，因为它们理解和处理复杂网页结构的能力有限。本文引入了 LCoW 框架，即 Learning to Contextualize complex Web pages，以更易理解的格式将复杂网页转化为可理解形式，从而提升 LLM 代理的决策能力。LCoW 通过训练独立的 contextualization 模块，将复杂网页转化为可理解格式，再由决策代理利用。我们展示了该 contextualization 模块有效地与 various规模的 LLM 代理集成，显著提升了在 web 自动化任务中的决策能力。值得注意的是，LCoW 将闭源 LLM（如 Gemini-1.5-flash、GPT-4o、Claude-3.5-Sonnet）的成功率平均提高 15.6%，在开源 LM（如 Llama-3.1-8B、Llama-3.1-70B）上实现 23.7% 的平均成功率提升，均基于 WorkArena 基准测试。此外，搭载 LCoW 的 Gemini-1.5-flash 代理在 WebShop 基准测试中实现最先进的结果，超越了人类专家。相关代码材料可在我们的项目页面 https://lcowiclr2025.github.io 获取。
引用
@article{arxiv.2503.10689,
title = {Learning to Contextualize Web Pages for Enhanced Decision Making by LLM Agents},
author = {Dongjun Lee and Juyong Lee and Kyuyoung Kim and Jihoon Tack and Jinwoo Shin and Yee Whye Teh and Kimin Lee},
journal= {arXiv preprint arXiv:2503.10689},
year = {2025}
}
备注
Accepted to ICLR 2025