在神经回复生成中联合优化多样性与相关性
计算与语言
2019-04-08 v3 人工智能
摘要
尽管近期的神经对话模型已展现出巨大潜力，它们往往生成平淡且通用的回复。虽然已有多种方法被探索以令对话模型的输出多样化，但这种改进常常以相关性下降为代价。在本文中，我们提出一种 SpaceFusion 模型，通过利用新颖的正则化项，本质上融合序列到序列模型的潜空间与自编码器模型的潜空间，以联合优化多样性与相关性。因此，我们的方法诱导出一个潜空间，其中从预测回复向量的距离和方向分别大致对应于相关性和多样性。该性质也便于对潜空间进行直观可视化。自动与人工评估结果均表明，所提方法相比强基线在多样性与相关性上均带来显著提升。
引用
@article{arxiv.1902.11205,
title = {Jointly Optimizing Diversity and Relevance in Neural Response Generation},
author = {Xiang Gao and Sungjin Lee and Yizhe Zhang and Chris Brockett and Michel Galley and Jianfeng Gao and Bill Dolan},
journal= {arXiv preprint arXiv:1902.11205},
year = {2019}
}
备注
Long paper accepted at NAACL 2019