使用大语言模型建模开放域对话中的一对多关系
计算与语言
2026-01-05 v2 人工智能
摘要
开放域对话(OD)具有一对多(o2m)关系,即单个对话上下文存在多个合适的响应。尽管先前的研究表明,建模这一属性可提升响应的多样性,但大多数现代基于大语言模型的对话代理并未显式地实现这一点。在本工作中,我们通过将 OD 生成分解为两个关键任务:多响应生成(MRG)和基于偏好的选择(PS),来建模 OD 的 o2m 关系,其中MRG涉及为给定对话上下文生成一组在语义和词汇上都高度多样且高质量的响应,随后通过PS选择一个基于人类偏好的单个响应。为促进MRG和PS,我们引入了o2mDial,一个专为捕获 o2m 关系而设计的对话语料库,其特点是为每个上下文包含多个合理响应。利用o2mDial,我们提出了新的基于情境学习和指令调优策略,以及MRG的新评估指标,并提出了一种基于模型的方法用于PS。实证结果表明,将所提出的两阶段框架应用于较小的大语言模型进行OD生成，可显著提升整体响应的多样性,同时保持上下文连贯性,使响应质量提升最高可达90%,使其更接近大型模型的性能。
引用
@article{arxiv.2506.15131,
title = {Modeling the One-to-Many Property in Open-Domain Dialogue with LLMs},
author = {Jing Yang Lee and Kong-Aik Lee and Woon-Seng Gan},
journal= {arXiv preprint arXiv:2506.15131},
year = {2026}
}