PLATO-K:内外知识增强的对话生成
计算与语言
2022-11-03 v1
摘要
近来,开放域对话系统的实际部署深受信息缺失与事实不准确的知识问题困扰。为此,我们引入基于两阶段对话学习的PLATO-K,以强化内部知识记忆与外部知识利用。在第一阶段,PLATO-K通过海量对话语料学习,并将关键知识记忆至模型参数中。在第二阶段,PLATO-K模仿人类搜索外部信息,并在回复生成中利用这些知识。大量实验表明,借助此类综合的内部与外部知识增强,PLATO-K中的知识问题得到显著缓解。与现有最先进的中文对话模型相比,PLATO-K在闲聊与知识密集型对话上的整体吸引力分别显著提升了36.2%与49.2%。
引用
@article{arxiv.2211.00910,
title = {PLATO-K: Internal and External Knowledge Enhanced Dialogue Generation},
author = {Siqi Bao and Huang He and Jun Xu and Hua Lu and Fan Wang and Hua Wu and Han Zhou and Wenquan Wu and Zheng-Yu Niu and Haifeng Wang},
journal= {arXiv preprint arXiv:2211.00910},
year = {2022}
}
备注
First four authors contributed equally to this work