文本均衡传播用于深度复合型AI系统

大型语言模型（LLM）越来越多地被部署为协调多个模块（如检索器、工具、验证器）以执行长期程度工作流程的复合型AI系统的一部分。最近的一些方法（如TextGrad）通过全局传播文本反馈来优化此类管道，但我们发现随着系统深度增加，性能会下降。特别是，长期程度的智能体工作流程 exhibit 两种深度扩展失效模式：1）文本梯度爆炸，文本反馈随深度指数级增长，导致消息长度不可接受并放大评估偏差；以及2）文本梯度消失，由于长上下文能力有限，模型过度强调部分反馈，随着反馈在多个上游传递途径逐渐压缩，导致下游消息逐渐丧失具体性。为缓解这些问题，我们引入文本均衡传播（TEP），这是一种受能量基模型中均衡传播启发的局部学习原则。TEP包括两个阶段：1）自由阶段，其中局部LLM评论家迭代细化提示直至达到均衡（不再提出改进建议）；以及2）受扰相位，它应用受控的提示编辑，保持修改强度受限，使用通过前向信号传递而非后向反馈链式传递的任务级目标。此设计支持在无计算负担和信号退化的情况下进行局部提示优化，以控制性方式适应全局目标。在长期程度QA基准和多智能体工具使用数据集上，TEP在准确率和效率上持续优于全局传播方法如TextGrad。收益随深度增加，同时保持黑箱LLM组件在深层复合AI系统中的实用性。