通过自适应标签平滑实现对话生成的多样化

以 one-hot 目标分布训练的神经网络对话生成模型存在过度自信问题，正如文献广泛报道的那样，这导致生成多样性差。尽管标签平滑等现有方法可缓解该问题，但它们无法适应多样的对话上下文。本文提出一种自适应标签平滑（AdaLabel）方法，可在每个时间步针对不同上下文自适应地估计目标标签分布。预测分布中的最大概率被用于修正由一种新颖的轻量级双向解码器模块产生的软目标分布。所得目标分布同时感知先前与未来上下文，并经过调整以避免对话模型的过训练。我们的模型可以端到端方式训练。在两个基准数据集上的大量实验表明，我们的方法在生成多样化回复方面优于多种竞争性基线。