基于数据增强的三步训练法用于形态屈折生成
计算与语言
2021-09-16 v1 人工智能
摘要
我们介绍了 BME 团队针对 SIGMORPHON 2021 任务 0 第一部分(跨类型多样语言的泛化共享任务)的提交。我们使用 LSTM 编码器-解码器模型,采用三步训练:先在所有语言上训练,然后在各语系上微调,最后在单个语言上微调。在前两步中我们使用了不同类型的数据增强技术。我们的系统优于唯一另一份提交。尽管仍逊于组织者发布的 Transformer 基线,我们的模型更简单,且数据增强技术易于应用于新语言。我们进行了消融研究,表明增强技术和三步训练通常有帮助,但有时会产生负面效果。
引用
@article{arxiv.2109.07006,
title = {A Three Step Training Approach with Data Augmentation for Morphological Inflection},
author = {Gabor Szolnok and Botond Barta and Dorina Lakatos and Judit Acs},
journal= {arXiv preprint arXiv:2109.07006},
year = {2021}
}