使用开源模型生成用户偏好的系统提示词
计算与语言
2025-05-26 v2 人工智能
摘要
系统提示词在与大语言模型（LLMs）的交互中起着关键作用，通常作为启动对话的提示。通过系统提示词，用户可以分配特定角色、执行预期任务、整合背景信息以及指定各种输出格式和通信风格。尽管具有如此多功能性，公开可用数据集往往缺乏系统提示词，且在工业应用中受到严格许可限制。此外，手动标注与用户指令一致的系统提示词资源密集。鉴于这些挑战，我们引入了 SysGen，一个利用现有缺乏系统提示词的监督微调数据集来生成更好地使助手响应与用户指令对齐的系统提示词的流水线。在 SysGen 数据上训练开源模型在单轮（Multifacet）和多轮（SysBench）对话基准测试中均取得了显著提升。值得注意的是，我们的方法在较短对话中表现出强劲增益，表明其增强了早期交互的有效性。我们的定性分析进一步强调了多样化且结构化的系统提示词在提升 LLM 跨不同用户场景适应性方面的价值。
引用
@article{arxiv.2502.11330,
title = {System Message Generation for User Preferences using Open-Source Models},
author = {Minbyul Jeong and Jungho Cho and Minsoo Khang and Dawoon Jung and Teakgyu Hong},
journal= {arXiv preprint arXiv:2502.11330},
year = {2025}
}