中文

DFKI-NLP 在 SemEval-2024 任务 2 中的研究:利用数据扰动和 MinMax 训练实现鲁棒的大语言模型

计算与语言 2024-05-02 v1

摘要

SemEval-2024 的 NLI4CT 任务强调利用大语言模型(LLM)开发用于临床试验报告(CTR)自然语言推理的鲁棒模型。本届任务引入了专门针对 CTR 的数值、词汇和语义层面的干预措施。我们提出的系统利用了最先进的 Mistral 模型的能力,并辅以一个辅助模型,以聚焦于 NLI4CT 数据集的复杂输入空间。通过对数据引入基于数值和缩写的扰动,我们训练了一个能够处理语义改变和数值矛盾干预的鲁棒系统。我们在数据集上的分析揭示了 CTR 中对于推理具有挑战性的部分。

关键词

引用

@article{arxiv.2405.00321,
  title  = {DFKI-NLP at SemEval-2024 Task 2: Towards Robust LLMs Using Data Perturbations and MinMax Training},
  author = {Bhuvanesh Verma and Lisa Raithel},
  journal= {arXiv preprint arXiv:2405.00321},
  year   = {2024}
}