通过从大型语言模型学习的事实对话摘要
计算与语言
2024-06-24 v1
摘要
事实一致性是对话摘要的一个重要质量指标。大型语言模型 (LLM) 基于的自动文本摘要模型相较于小型预训练语言模型，生成的摘要更具事实一致性，但在实际应用中因隐私或资源限制面临部署挑战。在本文中，我们调查了使用符号知识蒸馏来提高小型预训练模型在对话摘要任务中的事实一致性的方法。我们采用零样本学习从 LLM 中提取符号知识，生成既事实一致 (正样本) 又不一致 (负样本) 的摘要。随后我们对这些摘要应用两种对比学习目标，以增强小型摘要模型。使用 BART、PEGASUS 和 Flan-T5 进行实验表明，我们的方法优于依赖复杂数据增强策略的强基准。我们的 approach 在保持连贯性、流畅性和相关性的同时，实现了更好的事实一致性，various 自动评估指标均证实了这一点。我们还提供了数据和代码，以促进未来研究。
引用
@article{arxiv.2406.14709,
title = {Factual Dialogue Summarization via Learning from Large Language Models},
author = {Rongxin Zhu and Jey Han Lau and Jianzhong Qi},
journal= {arXiv preprint arXiv:2406.14709},
year = {2024}
}