中文

ExpertPrompting:引导大语言模型成为杰出专家

计算与语言 2025-03-06 v2 人工智能

摘要

若对对齐后的大语言模型(LLM)施以恰当的提示工程,其回答质量可大幅提升。本文提出 ExpertPrompting,以激发 LLM 作为杰出专家作答的潜力。我们首先利用上下文学习(In-Context Learning)针对每条具体指令自动合成详尽且定制化的专家身份描述,再让 LLM 基于该智能体背景提供回答。基于这一增强提示策略,我们使用 GPT-3.5 生成了一组新的指令跟随数据,并训练了一个有竞争力的开源聊天助手 ExpertLLaMA。我们采用基于 GPT4 的评估表明:1)专家数据质量显著高于普通回答;2)ExpertLLaMA 优于现有开源对手,达到原始 ChatGPT 96% 的能力。所有数据及 ExpertLLaMA 模型将在 https://github.com/OFA-Sys/ExpertLLaMA 公开。

关键词

引用

@article{arxiv.2305.14688,
  title  = {ExpertPrompting: Instructing Large Language Models to be Distinguished Experts},
  author = {Benfeng Xu and An Yang and Junyang Lin and Quan Wang and Chang Zhou and Yongdong Zhang and Zhendong Mao},
  journal= {arXiv preprint arXiv:2305.14688},
  year   = {2025}
}