面向大语言模型智能体的生成器-助手逐步回滚框架
计算与语言
2025-09-29 v4
摘要
大语言模型（LLM）智能体通常采用逐步推理框架，在其中交替进行思考与行动以完成给定任务。然而，该范式面临根深蒂固的单次处理问题，即每个生成的中间想法无论正确与否都会被插入轨迹中，这可能导致不可逆的错误传播。为解决此问题，本文提出了一种名为生成器-助手逐步回滚（Generator-Assistant Stepwise Rollback, GA-Rollback）的新框架，以诱导 LLM 智能体做出更好的决策。具体而言，GA-Rollback 利用生成器与环境交互，并利用助手检查生成器产生的每个动作，其中助手在检测到错误动作时触发回滚操作。此外，我们引入了两种专为回滚场景设计的附加策略以进一步提升其有效性。大量实验表明，GA-Rollback 在三个广泛使用的基准上取得了优于若干强基线的显著改进。我们的分析进一步揭示，GA-Rollback 可作为鲁棒的即插即用模块，与其他方法无缝集成。
引用
@article{arxiv.2503.02519,
title = {Generator-Assistant Stepwise Rollback Framework for Large Language Model Agent},
author = {Xingzuo Li and Kehai Chen and Yunfei Long and Xuefeng Bai and Yong Xu and Min Zhang},
journal= {arXiv preprint arXiv:2503.02519},
year = {2025}
}
备注
EMNLP 2025 Main