先评分再发言：利用回复质量分数提升对话生成中的人物一致性
计算与语言
2025-08-12 v1
摘要
基于人物的对话生成是构建对话式人工智能的重要里程碑。尽管大语言模型 (LLM) 的能力不断提升，但由于现有对话数据的多样性有限，在对话中有效整合人物一致性仍然具有挑战性。我们提出了一种新颖的 SBS (Score-Before-Speaking) 框架，其性能优于先前的方法，并为百万和十亿参数模型带来了改进。与先前方法不同，SBS 将回复学习及其相对质量统一到一个步骤中。其关键创新在于训练一个对话模型，在训练期间将增强的回复与质量分数相关联，然后在推理时利用这一知识。我们使用基于名词的替换进行数据增强，并使用基于语义相似度的分数作为回复质量的代理。通过对基准数据集 (PERSONA-CHAT 和 ConvAI2) 的广泛实验，我们表明分数条件训练使现有模型能够更好地捕捉一系列人物一致的对话。我们的消融研究也证明，在训练期间将分数包含在输入提示中优于传统的训练设置。代码和更多细节可在 https://arpita2512.github.io/score_before_you_speak 获取。
引用
@article{arxiv.2508.06886,
title = {Score Before You Speak: Improving Persona Consistency in Dialogue Generation using Response Quality Scores},
author = {Arpita Saggar and Jonathan C. Darling and Vania Dimitrova and Duygu Sarikaya and David C. Hogg},
journal= {arXiv preprint arXiv:2508.06886},
year = {2025}
}
备注
Camera-Ready version for ECAI 2025. 8 pages