一种在求解复杂任务中实现上下文相关子任务交互的免训练LLM框架
计算与语言
2025-04-01 v1
摘要
大语言模型（LLM）在解决复杂任务方面展现出了卓越的能力。近期的工作探索了将此类任务分解为具有独立上下文的子任务。然而，一些上下文相关的子任务在执行过程中可能会遇到信息丢失，导致冗余操作或执行失败。为了解决这个问题，我们提出了一个带有交互机制的免训练框架，该机制允许子任务通过发送请求来查询已完成子任务中的特定信息或触发某些动作。为了实现交互，我们引入了子任务轨迹记忆，使得在接收到交互请求时能够恢复已完成的子任务。此外，我们提出了一种在执行过程中的新动作，该动作生成对子任务执行过程和结果的简明且精确的描述，以辅助后续子任务确定交互目标和请求。我们在交互式决策任务 WebShop 和多跳问答任务 HotpotQA 上使用 GPT-3.5 和 GPT-4 评估了我们的框架，比较结果表明我们的框架优于最先进的免训练基线。
引用
@article{arxiv.2503.23053,
title = {A Training-free LLM Framework with Interaction between Contextually Related Subtasks in Solving Complex Tasks},
author = {Hongjia Liu and Jinlong Li},
journal= {arXiv preprint arXiv:2503.23053},
year = {2025}
}