元提示：用任务无关的脚手架增强语言模型

我们引入了元提示，这是一种有效的脚手架技术，旨在增强语言模型（LM）的功能。这种方法将单个 LM 转变为一个多面指挥，擅长管理和整合多个独立的 LM 查询。通过使用高级指令，元提示引导 LM 将复杂任务分解为更小、更易管理的子任务。这些子任务随后由同一 LM 的不同“专家”实例处理，每个实例都在特定的、量身定制的指令下运行。该过程的核心是 LM 本身，它作为指挥，确保这些专家模型输出的无缝通信和有效整合。它还利用其固有的批判性思维和稳健的验证过程来精炼和认证最终结果。这种协作提示方法使单个 LM 能够同时充当全面的编排者和一个由多样化专家组成的专家组，从而显著提升其在广泛任务中的性能。元提示的零样本、任务无关特性极大地简化了用户交互，因为它无需详细的任务特定指令。此外，我们的研究展示了将外部工具（如 Python 解释器）无缝集成到元提示框架中，从而拓宽了其适用性和实用性。通过对 GPT-4 的严格实验，我们确立了元提示相对于传统脚手架方法的优越性：在所有任务（包括 24 点游戏、一步杀棋和 Python 编程谜题）中取平均值，增强了 Python 解释器功能的元提示比标准提示高出 17.1%，比专家（动态）提示高出 17.3%，比多角色提示高出 15.2%。