提示递归搜索：一种具有自适应增长能力的大语言模型自动提示框架

大语言模型（LLM）在自然语言处理（NLP）领域的多样化任务中展现出显著的能力，各种提示设计策略大幅增强了其性能。然而，这些提示虽然有益，但各自存在固有的局限性。主要的提示设计方法有两种：第一种以思维链（CoT）为代表，涉及针对特定数据集手动设计提示，因此称为专家设计提示（EDPs）。一旦这些提示确立后便不可更改，其有效性受限于设计者的专业水平。将 EDPs 应用于 LLM 时，其静态特性导致对同一数据集中的简单和复杂问题采用统一的处理方式，从而造成简单问题上 token 的低效利用。第二种方法是由 LLM 自主生成提示，称为大语言模型生成提示（LDPs），其能为特定问题提供定制化解决方案，从而缓解 EDPs 的局限性。然而，LDPs 在处理复杂问题时可能因求解规划过程中的误差累积而导致性能下降。为应对这些挑战，我们提出了一种新颖的提示递归搜索（PRS）框架，利用 LLM 针对问题生成特定解法，从而节省 token。该框架融入了问题复杂度评估和可调节结构，确保降低误差发生的可能性。我们通过在多个领域、涵盖不同参数规模的 LLM 上的广泛实验，验证了 PRS 框架的有效性。与 CoT 方法相比，PRS 方法在使用 Llama3-7B 模型时将 BBH 数据集上的准确率提高了 8%，实现了 22% 的提升。