PLATO-2:通过课程学习构建开放域聊天机器人
计算与语言
2021-05-31 v4
摘要
为构建高质量开放域聊天机器人,我们引入了 PLATO-2 通过课程学习的有效训练过程。学习过程包含两个阶段。在第一阶段,训练一个粗粒度生成模型,在简化的一对一映射框架下学习回复生成。在第二阶段,进一步训练由潜变量增强的细粒度生成模型和一个评估模型,分别用于生成多样化回复和选择最佳回复。PLATO-2 在中英文数据上训练,其有效性和优越性通过综合评估得到验证,取得了新的 SOTA 结果。
引用
@article{arxiv.2006.16779,
title = {PLATO-2: Towards Building an Open-Domain Chatbot via Curriculum Learning},
author = {Siqi Bao and Huang He and Fan Wang and Hua Wu and Haifeng Wang and Wenquan Wu and Zhen Guo and Zhibin Liu and Xinchao Xu},
journal= {arXiv preprint arXiv:2006.16779},
year = {2021}
}
备注
Findings of ACL 2021. First four authors contributed equally to this work