中文

LLM-DA:基于大语言模型的少样本命名实体识别数据增强

计算与语言 2024-02-23 v1

摘要

尽管大语言模型(LLM)能力卓越,但其在信息抽取任务上的表现仍不尽如人意。然而,其出色的重写能力和丰富的世界知识为改进这些任务提供了宝贵的启发。在本文中,我们提出了一种基于 LLM 的新型少样本 NER 任务数据增强技术 LLMDALLM-DA。为了克服现有数据增强方法损害语义完整性的局限,并应对 LLM 生成文本固有的不确定性,我们利用 NER 任务的独特性,在上下文和实体两个层面对原始数据进行增强。我们的方法包括采用 14 种上下文重写策略、设计同类型实体替换,以及引入噪声注入以增强鲁棒性。大量实验证明了我们的方法在有限数据下提升 NER 模型性能的有效性。此外,进一步的分析提供了更多证据,支持我们所生成数据的质量优于其他现有方法的论断。

关键词

引用

@article{arxiv.2402.14568,
  title  = {LLM-DA: Data Augmentation via Large Language Models for Few-Shot Named Entity Recognition},
  author = {Junjie Ye and Nuo Xu and Yikun Wang and Jie Zhou and Qi Zhang and Tao Gui and Xuanjing Huang},
  journal= {arXiv preprint arXiv:2402.14568},
  year   = {2024}
}