BoB：基于 BERT Over BERT 从有限个性化数据训练人格对话模型
计算与语言
2021-06-15 v2 人工智能
摘要
保持一致性人格对于对话智能体至关重要。尽管已取得巨大进展，但有限规模的标注人格密集数据仍是训练鲁棒且一致的人格对话模型的障碍。在本工作中，我们展示了如何通过将一个新颖的 BERT-over-BERT（BoB）模型将人格对话生成解耦为两个子任务来应对这些挑战。具体而言，该模型由一个基于 BERT 的编码器和两个基于 BERT 的解码器组成，其中一个解码器用于回复生成，另一个用于一致性理解。特别地，为从大规模非对话推理数据中学习一致性理解能力，我们以非似然方式训练第二个解码器。在不同有限数据设置下，自动与人工评估均表明所提模型在回复质量和人格一致性上优于强基线。
引用
@article{arxiv.2106.06169,
title = {BoB: BERT Over BERT for Training Persona-based Dialogue Models from Limited Personalized Data},
author = {Haoyu Song and Yan Wang and Kaiyan Zhang and Wei-Nan Zhang and Ting Liu},
journal= {arXiv preprint arXiv:2106.06169},
year = {2021}
}
备注
ACL 2021