ReIn：基于推理起始的对话式错误恢复

由大型语言模型（LLM）驱动的对话式智能体在工具集成后，在固定任务导向的对话数据集上表现出色，但仍对不可预见的、由用户引起的错误十分脆弱。与其关注错误预防，不如关注错误恢复，这需要准确诊断错误的对话上下文并执行适当的恢复计划。在不考虑需要大量时间和成本进行模型微调或提示词修改的现实约束下，本文探讨了智能体是否能够从情境不完整的交互中恢复，以及如何在不改变模型参数和提示词的情况下适应其行为。为此，我们提出推理起始（Reasoning Inception，ReIn），一种测试时干预方法，在智能体决策过程植入初始推理。具体而言，外部的起始模块识别对话上下文中预定义的错误，并生成恢复计划，随后将其整合到智能体的内部推理过程中，以引导纠正动作，而不修改其参数或系统提示。我们通过系统性地模拟直接阻碍用户目标成功完成的对话失败情景（即用户的模糊和不支持请求）来评估ReIn。在各种智能体模型和起始模块的组合下，ReIn显著提高了任务成功率，并能推广到未出现的错误类型。此外，它持续地超过显式提示词修改方法，凸显其作为一种高效、即插即用的方法的实用性。对其操作机制进行深入分析，特别是与指令层次结构的关系，表明将恢复工具与ReIn共同定义可作为一种无需修改底层模型或系统提示词的提升对话式智能体鲁棒性的安全且有效的策略。