AAdaM在SemEval-2024任务1中:面向多语言语义文本相关性的增强与适应
计算与语言
2024-06-10 v2
摘要
本文介绍了我们为SemEval-2024任务1开发的系统:非洲和亚洲语言的语义文本相关性。该共享任务旨在测量句子对之间的语义文本相关性,重点关注一系列代表性不足的语言。在这项工作中,我们提出使用机器翻译进行数据增强,以应对训练数据有限的低资源挑战。此外,我们对未标记的任务数据应用任务自适应预训练,以弥合预训练和任务适应之间的差距。对于模型训练,我们研究了全微调和基于适配器的微调,并采用适配器框架实现有效的零样本跨语言迁移。我们在共享任务中取得了有竞争力的结果:我们的系统在子任务A(监督学习)和子任务C(跨语言迁移)中均表现最佳。
引用
@article{arxiv.2404.01490,
title = {AAdaM at SemEval-2024 Task 1: Augmentation and Adaptation for Multilingual Semantic Textual Relatedness},
author = {Miaoran Zhang and Mingyang Wang and Jesujoba O. Alabi and Dietrich Klakow},
journal= {arXiv preprint arXiv:2404.01490},
year = {2024}
}
备注
SemEval-2024