基于对抗扰动对比学习的条件文本生成

近年来，具有 Transformer 架构的序列到序列（seq2seq）模型在各种条件文本生成任务（如机器翻译）上取得了显著性能。然而，它们大多在每一步给定真实标签的情况下使用教师强制（teacher forcing）进行训练，训练过程中未接触到错误生成的词元，这损害了其对未见输入的泛化能力，即所谓的“暴露偏差”问题。在这项工作中，我们提出通过对比正样本对与负样本对来缓解条件文本生成问题，使模型接触到输入的各种有效或错误的扰动，从而改善泛化。然而，使用随机非目标序列作为负例的朴素对比学习框架进行训练是次优的，因为它们易于与正确输出区分开来，尤其是在使用大规模文本语料库预训练的模型上更是如此。此外，生成正例需要特定领域的增强启发式方法，可能无法在不同领域间泛化。为解决此问题，我们提出了一种为 seq2seq 模型对比学习生成正样本和负样本的原则性方法。具体而言，我们通过向输入序列添加小扰动以最小化其条件似然来生成负例，并通过添加大扰动同时强制其具有高条件似然而生成正例。使用我们的方法生成的此类“困难”正负样本对引导模型更好地区分正确与不正确的输出。我们通过实验表明，所提方法显著提升了 seq2seq 在三个文本生成任务——机器翻译、文本摘要和问答生成——上的泛化能力。