VANER：利用大语言模型实现通用且自适应的生物医学命名实体识别
计算与语言
2024-04-30 v1
摘要
生物医学命名实体识别（BioNER）的流行解决方案涉及将表示学习技术与序列标注相结合。然而，此类方法本质上是特定于任务的，泛化能力差，且通常需要为每个数据集配备专用模型。为了利用近期卓越的大语言模型（LLM）的通用能力，已有一些探索采用生成式方法进行实体提取。然而，这些方法的有效性往往不及以往的序列标注方法。在本文中，我们利用开源 LLM LLaMA2 作为骨干模型，并设计特定指令以区分不同类型的实体和数据集。通过将 LLM 对指令的理解与序列标注技术相结合，我们使用混合数据集训练了一个能够提取多种类型实体的模型。鉴于骨干 LLM 缺乏专业的医学知识，我们还集成了外部实体知识库，并采用指令微调以促使模型密集识别精心筛选的实体。我们的模型 VANER 仅训练了小部分参数，显著优于以往基于 LLM 的模型，并且首次作为基于 LLM 的模型超越了大多数传统的 SOTA BioNER 系统，在三个数据集上取得了最高的 F1 分数。
引用
@article{arxiv.2404.17835,
title = {VANER: Leveraging Large Language Model for Versatile and Adaptive Biomedical Named Entity Recognition},
author = {Junyi Biana and Weiqi Zhai and Xiaodi Huang and Jiaxuan Zheng and Shanfeng Zhu},
journal= {arXiv preprint arXiv:2404.17835},
year = {2024}
}