开放式命名实体识别的检索增强指令调优
计算与语言
2024-12-03 v2
摘要
大型语言模型（LLM）的强大能力已通过检索增强提示或指令调优（IT）应用于信息提取（IE）。然而，如何将信息与LLM集成用于IE仍是一个开放问题。本文探索检索增强指令调优（RA-IT）用于IE，专注于开放式命名实体识别（NER）任务。具体而言，对于每个训练样本，我们从训练数据集中检索语义相似的示例作为上下文，并将其拼接到原始指令的输入中。为更全面地评估我们的RA-IT方法，我们构建了一个用于开放式NER的中文指令调优数据集，并在英文和中文场景中评估RA-IT。实验结果验证了RA-IT在各种数据规模和中英文场景中的有效性。我们还深入研究了在所提出的RA-IT框架中各种检索策略的影响。代码和数据均可在 https://github.com/Emma1066/Retrieval-Augmented-IT-OpenNER 获取。
引用
@article{arxiv.2406.17305,
title = {Retrieval Augmented Instruction Tuning for Open NER with Large Language Models},
author = {Tingyu Xie and Jian Zhang and Yan Zhang and Yuanyuan Liang and Qi Li and Hongwei Wang},
journal= {arXiv preprint arXiv:2406.17305},
year = {2024}
}
备注
To be appeared at COLING 2025