基于 LLM 的隐喻检测的课程式数据增强
计算与语言
2025-03-04 v2
摘要
最近,利用大语言模型(LLM)进行隐喻检测取得了令人鼓舞的成果。然而,这些方法严重依赖于封闭源 LLM 的能力,这些 LLM 伴随较高的推理成本和延迟。为此,我们提出了一种通过微调开源 LLM 实现隐喻检测的方法,显著降低推理成本和延迟,只需一次推理步骤。此外,隐喻检测面临严重的数据稀缺问题,这阻碍了 LLM 的有效微调。为解决这一问题,我们引入课程式数据增强(Curriculum-style Data Augmentation, CDA)。具体而言,在微调之前,我们评估训练数据以识别正确预测的实例作为微调数据,而错误预测的实例则用作数据增强的种子数据。该方法使模型能够快速学习较简单的知识,并逐步获得更复杂的知识,从而实现性能的逐步提升。实验结果表明,我们的方法在所有基线任务上实现了最先进的性能。此外,我们提供了详细的消融研究,以验证 CDA 的有效性。
引用
@article{arxiv.2412.02956,
title = {Curriculum-style Data Augmentation for LLM-based Metaphor Detection},
author = {Kaidi Jia and Yanxia Wu and Ming Liu and Rongsheng Li},
journal= {arXiv preprint arXiv:2412.02956},
year = {2025}
}