从最优控制视角看提示工程
机器学习
2023-11-06 v2 最优化与控制
摘要
提示工程（PE）已成为引导大语言模型（LLMs）解决复杂任务的关键技术。其重要性体现在有望显著提升人机交互的效率与效果。随着任务日益复杂，近期先进的 PE 方法已超越单轮交互的局限，转向多轮交互，从而实现对 LLM 更深入、更细致的调用。本文提出一种面向与 LLM 多轮交互的最优控制框架。该框架提供了统一的数学结构，不仅使现有 PE 方法系统化，也为严谨的分析改进奠定基础。此外，我们将该框架扩展至包含基于集成方法与多智能体协作的 PE，从而扩大适用范围。通过采用最优控制视角，我们对现有 PE 方法给出新的见解，并指出值得未来研究的理论挑战。此外，我们的工作为开发更有效且可解释的 PE 方法奠定了基础。
引用
@article{arxiv.2310.14201,
title = {Prompt Engineering Through the Lens of Optimal Control},
author = {Yifan Luo and Yiming Tang and Chengfeng Shen and Zhennan Zhou and Bin Dong},
journal= {arXiv preprint arXiv:2310.14201},
year = {2023}
}