中文

UMBCLU 参加 SemEval-2024 任务 1A 和 1C:含与不含机器翻译的语义文本相关性

计算与语言 2024-04-15 v2 人工智能 机器学习

摘要

SemEval-2024 任务 1“面向非洲和亚洲语言的语义文本相关性”旨在开发模型,以利用多种语言(14 种非洲和亚洲语言)和设置(监督、无监督和跨语言)识别两个句子之间的语义文本相关性(STR)。大语言模型(LLMs)在多语言机器翻译(MMT)、语义相似度(STS)和句子嵌入编码等若干自然语言理解任务上展现了令人印象深刻的性能。利用在这些任务上表现良好的 LLMs 组合,我们为监督和跨语言设置开发了两种 STR 模型:TranSem\textit{TranSem}FineSem\textit{FineSem}。我们探讨了多种训练方法的有效性以及机器翻译的有用性。我们发现,直接在任务上进行微调与使用句子嵌入的效果相当,而翻译成英语则能提升某些语言的性能。在监督设置下,我们的模型性能在 3 种语言上优于官方基线,其余 4 种语言表现持平。在跨语言设置下,我们的模型性能在 3 种语言上优于基线(导致在南非荷兰语中获得第 1 名,在印度尼西亚语中获得第 2 名),在 2 种语言上表现持平,而在其余 7 种语言上表现不佳。我们的代码公开于 https://github.com/dipta007/SemEval24-Task8。

关键词

引用

@article{arxiv.2402.12730,
  title  = {UMBCLU at SemEval-2024 Task 1A and 1C: Semantic Textual Relatedness with and without machine translation},
  author = {Shubhashis Roy Dipta and Sai Vallurupalli},
  journal= {arXiv preprint arXiv:2402.12730},
  year   = {2024}
}

备注

Accepted at SemEval 2024 (Colocated with NAACL 2024)