通过嵌入增强高效实现对话生成多样化的方法
计算与语言
2021-03-03 v1 人工智能
摘要
对话生成模型面临生成通用且重复回复的挑战。与以往大多关注词元操作并利用硬标签忽略单样本内本质多样性的增强方法不同，本文提出通过软嵌入增强结合软标签来提升神经对话模型的生成多样性。具体而言，我们选取若干关键输入词元，并将其嵌入与来自语义邻近词元的嵌入融合。新嵌入作为模型输入以替换原始输入。此外，在损失计算中使用软标签，从而对给定输入实现多目标监督。我们在两个数据集上的实验结果表明，所提方法能够比原始模型生成更多样化的回复，同时保持相似的 n-gram 准确率以确保生成回复的质量。
引用
@article{arxiv.2103.01534,
title = {Towards Efficiently Diversifying Dialogue Generation via Embedding Augmentation},
author = {Yu Cao and Liang Ding and Zhiliang Tian and Meng Fang},
journal= {arXiv preprint arXiv:2103.01534},
year = {2021}
}
备注
5 pages, 2 figures, ICASSP2021