基于对比学习的演员感知多方对话生成
计算与语言
2025-03-13 v1
摘要
多方对话生成因多个说话者之间的复杂相互作用以及交织的对话线索而面临重大挑战。传统方法在捕捉这些复杂性方面往往不足,尤其是依赖于手动标注的对话关系。本文引入了说话者注意型大语言模型(SA-LLM),一种新型生成模型,利用预训练的大型语言模型(LLM)和说话者感知对比学习策略来解决这些挑战。SA-LLM 包含说话者归因的输入编码和对比学习目标,以无需显式关系标注的方式隐式学习情境连贯性和说话者角色。在 Ubuntu IRC 和电影对话数据集上的大量实验表明,SA-LLM 在自动评估和人类评估方面显著优于最先进的基线方法,在流畅性、连贯性、信息性和响应多样性方面实现卓越的性能。消融研究和详细的错误分析进一步验证了所提出说话者注意型训练方法的有效性,突显了其在不同说话者角色和上下文长度下的鲁棒性。结果凸显了 SA-LLM 作为高质量多方对话生成的强大且无需标注的解决方案的潜力。
引用
@article{arxiv.2503.08842,
title = {Contrastive Speaker-Aware Learning for Multi-party Dialogue Generation with LLMs},
author = {Tianyu Sun and Kun Qian and Wenhong Wang},
journal= {arXiv preprint arXiv:2503.08842},
year = {2025}
}