面向最小编辑语法纠错的LLM适配

仅解码器大型语言模型在英语语法纠错的流畅性编辑方面已展现出优越性能，但其针对最小编辑英语语法纠错的适配仍未被充分探索。为提升其在最小编辑方法中的有效性，我们研究了错误率适配主题并提出了一种新颖的训练调度方法。我们的实验在BEA测试集上为单模型系统设立了新的最先进结果。我们还对最常见的英语语法纠错数据集进行了去标记化处理，以匹配自然的文本书写方式。在此过程中，我们发现了其中的错误。我们的实验分析了在去标记化数据集上训练是否会影响结果，并衡量了使用经过错误修正的数据集的影响。为便于复现，我们已发布用于训练模型的源代码。