SCULPT：长提示词的系统性调优

提示词优化是在各类任务中有效利用大语言模型（LLMs）的关键。现有的优化方法在优化短提示词时行之有效，但在处理更长、更复杂的提示词时往往面临困难，常面临信息丢失的风险，且对微小扰动敏感。为应对这些挑战，我们提出了 SCULPT（长提示词的系统性调优），一个将提示词优化视为分层树结构细化问题的框架。SCULPT 将提示词表示为树结构，在保留上下文完整性的同时实现针对性修改。它采用 Critic-Actor 框架，生成反思并应用操作以细化提示词。评估结果表明，SCULPT 在长提示词上表现出色，对对抗性扰动具有鲁棒性，且即使没有任何初始的人工编写提示词也能生成高性能提示词。与现有的 SOTA 方法相比，SCULPT 通过在应用结构化细化的同时保留关键任务信息，持续提升 LLM 性能。定性和定量分析均表明，SCULPT 产生更稳定且可解释的提示词修改，确保在跨任务上具有更好的泛化能力。