基于元学习的少样本语法错误纠正领域自适应
计算与语言
2021-02-01 v1
摘要
现有大多数基于序列到序列的语法错误纠正（GEC）方法主要关注如何生成更多伪数据以获得更好的性能。少有工作研究少样本 GEC 领域自适应。在本文中，我们将不同的 GEC 领域视为不同的 GEC 任务，并提出在不使用任何伪数据的情况下将元学习扩展至少样本 GEC 领域自适应。我们利用一组数据丰富的源领域来学习模型参数的初始化，从而有助于在资源匮乏的新目标领域上快速自适应。我们将 GEC 模型自适应到第二语言学习者的第一语言（L1）。为评估所提方法，我们使用九种 L1 作为源领域、五种 L1 作为目标领域。在 L1 GEC 领域自适应数据集上的实验结果表明，所提方法平均比多任务迁移学习基线高出 0.50 的 分数，并使我们仅用 200 个平行句就能有效自适应到新的 L1 领域。
引用
@article{arxiv.2101.12409,
title = {Few-Shot Domain Adaptation for Grammatical Error Correction via Meta-Learning},
author = {Shengsheng Zhang and Yaping Huang and Yun Chen and Liner Yang and Chencheng Wang and Erhong Yang},
journal= {arXiv preprint arXiv:2101.12409},
year = {2021}
}