多方监督微调语言模型用于多方对话生成
计算与语言
2025-06-12 v5 人工智能
摘要
大语言模型（LLM）通常针对双方或两方对话进行微调，无法很好地适应多方对话（MPD），这限制了其在包括多人会议、讨论和日常交流等场景中的应用。以往的LLM研究主要关注多智能体框架，而其基础LLM仍然是两方微调。在本工作中，我们设计了用于LLM的多方微调框架（MuPaS），并在多方对话数据集上实现该框架，证明这种直接的框架能够高效有效地使LLM与多方对话风格保持一致。我们还设计了两种训练策略，可将MuPaS转换为MPD模拟器。大量实验表明，MuPaS能够实现多方响应的最先进水平，提高下一发言人预测的准确率，提升人类和自动评估的utterance质量，甚至能在合理范围内生成超出分布场景、主题和角色描述的对话。MuPaS框架将LLM训练与更复杂的多方应用（如对话生成、虚拟排练或元宇宙）相结合。
引用
@article{arxiv.2412.05342,
title = {Multi-Party Supervised Fine-tuning of Language Models for Multi-Party Dialogue Generation},
author = {Xiaoyu Wang and Ningyuan Xi and Teng Chen and Qingqing Gu and Yue Zhao and Xiaokai Chen and Zhonglin Jiang and Yong Chen and Luo Ji},
journal= {arXiv preprint arXiv:2412.05342},
year = {2025}
}
备注
Accepted by IJCNN 2025