ProSwitch：在专业与非专业回复间切换的知识引导指令微调
计算与语言
2024-12-13 v5 人工智能
摘要
大型语言模型（LLMs）已在问答和受控文本生成等多种语言应用中展现出有效性。然而，关于其在专业领域内切换相反风格回复能力的研究仍不充分。本研究提出了一种名为 ProSwitch 的新方法，通过在领域和风格知识的引导下进行微调和评估，使语言模型能够在专业和非专业答案之间进行切换。ProSwitch 分为三个阶段展开：LLM 增强准备阶段，用于收集领域知识和问答对；指令微调阶段，利用多层级知识优化 LLMs；以及综合评估阶段，用于评估生成文本的风格判别和基于参考的质量。将 ProSwitch 与通用及专用 LLMs 进行对比分析表明，我们的方法在专业与非专业回复的切换上优于基线。
引用
@article{arxiv.2403.09131,
title = {ProSwitch: Knowledge-Guided Instruction Tuning to Switch Between Professional and Non-Professional Responses},
author = {Chang Zong and Yuyan Chen and Weiming Lu and Jian Shao and Yongfeng Huang and Heng Chang and Yueting Zhuang},
journal= {arXiv preprint arXiv:2403.09131},
year = {2024}
}
备注
8 pages main body, 16 pages total