中文

PromptTailor:面向轻量级LLM的多轮意图对齐提示合成

计算与语言 2025-12-01 v1 人工智能

摘要

轻量级语言模型因适用于设备端和隐私敏感应用而备受青睐,但其响应对提示质量极其敏感。对于开放式生成,缺乏专业知识或时间的非专业用户往往难以持续构思高质量的提示,导致依赖提示优化工具。然而,关键挑战在于确保优化后的提示真正与用户的原始意图和偏好保持一致。我们介绍PromptTailor,一种用于开放式文本的可控提示生成系统,通过意图对齐的提示合成提高模型输出质量。PromptTailor在保留用户陈述偏好方面,将最小用户指令扩展为富有域内知识的提示。该系统使用在12,300个提示-细化对话中提炼的41个日常领域数据,对量化Llama3-8B模型进行微调,使用轻量级LoRA适配器。该适配器可附加到任何Llama3-8B基础模型上,实现边缘部署。在针对多个目标模型和优化基线的human和LLM-judge评估中,PromptTailor的偏好率高于链式思考提示,且在更少模型调用数(例如3 vs. 9)的情况下匹配或超越最先进的提示优化方法。这些结果表明,受强大教师指导的紧凑学生模型能够学习有效的提示生成策略,从而提升响应质量,同时保持与用户意图的一致性。

关键词

引用

@article{arxiv.2511.21725,
  title  = {PromptTailor: Multi-turn Intent-Aligned Prompt Synthesis for Lightweight LLMs},
  author = {Yizhou Xu and Janet Davis},
  journal= {arXiv preprint arXiv:2511.21725},
  year   = {2025}
}

备注

EMNLP 2025 Workshop PALS. Additional note: There is a citation error on Evoke. The paper we are referring to is "Evoking critical thinking abilities in LLMs via reviewer-author prompt editing."