大语言模型中提示工程的系统综述:技术与应用
人工智能
2025-03-18 v2 计算与语言
人机交互
摘要
提示工程已成为扩展大语言模型 (LLMs) 和视觉 - 语言模型 (VLMs) 能力不可或缺的技术。该方法利用称为提示 (prompts) 的特定任务指令,在不修改核心模型参数的情况下增强模型效能。提示无需更新模型参数,仅通过给定的提示激发所需的模型行为,即可将预训练模型无缝集成到下游任务中。提示可以是提供上下文以指导模型的自然语言指令,也可以是激活相关知识的习得向量表示。这一新兴领域已在从问答到常识推理等各种应用中取得了成功。然而,目前仍缺乏对多样化提示工程方法和技术的系统组织与理解。本综述论文通过提供按应用领域分类的提示工程最新进展的结构化概述来填补这一空白。对于每种提示方法,我们提供了详细说明其提示方法论、应用、涉及模型及所用数据集的摘要。我们还深入探讨了每种方法的优势与局限性,并包含一个分类图和一个表格,总结了每种提示技术的数据集、模型和关键点。这种系统分析有助于更好地理解这一快速发展的领域,并通过阐明提示工程面临的开放挑战和机遇来促进未来研究。
引用
@article{arxiv.2402.07927,
title = {A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications},
author = {Pranab Sahoo and Ayush Kumar Singh and Sriparna Saha and Vinija Jain and Samrat Mondal and Aman Chadha},
journal= {arXiv preprint arXiv:2402.07927},
year = {2025}
}
备注
12 pages, 2 figures