对抗式语法错误纠正

近期语法错误纠正（GEC）方面的工作借助了神经机器翻译（NMT）的进展，从语法错误与纠正后句子的平行语料中学习改写，取得了最先进的结果。与此同时，生成对抗网络（GANs）通过直接学习最小化人工生成文本与合成文本之间的差异，在许多不同任务中成功生成了逼真的文本。在这项工作中，我们提出一种基于生成器-判别器框架的 GEC 对抗学习方法。生成器是一个 Transformer 模型，训练用于给定语法错误的句子生成语法正确的句子。判别器是一个句子对分类模型，训练用于判断给定的语法错误-正确句子对在语法纠正质量上的优劣。我们在平行文本上预训练判别器和生成器，随后使用策略梯度方法进一步微调，该方法对可能作为语法错误文本真实纠正的句子赋予高奖励。在 FCE、CoNLL-14 和 BEA-19 数据集上的实验结果表明，Adversarial-GEC 相比基于 NMT 的基线能够实现具有竞争力的 GEC 质量。