序列到动作：基于动作引导序列生成的语法错误纠正
计算与语言
2022-05-24 v1
摘要
语法错误纠正（GEC）任务近年来受到显著关注，并在自然语言处理（NLP）中有广泛应用。虽然 GEC 的关键原则之一是保持正确部分不变并避免过度纠正，但此前的序列到序列（seq2seq）模型从零生成结果，不能保证遵循原句结构并可能遭受过度纠正问题。同时，最近提出的序列标注模型可通过仅生成编辑操作克服过度纠正问题，但依赖于人为设计的特定语言标注标签。在本文中，我们结合两者优点并缓解其缺点，提出一种新颖的序列到动作（S2A）模块。S2A 模块联合将源句和目标句作为输入，并能在预测每个 token 前自动生成 token 级动作序列，其中每个动作从名为 SKIP、COPY 和 GENerate 的三个选项中产生。然后将动作与基础 seq2seq 框架融合以提供最终预测。我们在中英文 GEC 任务的基准数据集上开展实验。我们的模型一致优于 seq2seq 基线，同时能够显著缓解过度纠正问题，并与序列标注模型相比在生成结果中具有更好的通用性与多样性。
引用
@article{arxiv.2205.10884,
title = {Sequence-to-Action: Grammatical Error Correction with Action Guided Sequence Generation},
author = {Jiquan Li and Junliang Guo and Yongxin Zhu and Xin Sheng and Deqiang Jiang and Bo Ren and Linli Xu},
journal= {arXiv preprint arXiv:2205.10884},
year = {2022}
}
备注
accepted in AAAI 2022