面向通用信息抽取的检索增强代码生成
组合数学
2023-11-07 v1
摘要
信息抽取（IE）旨在从自然语言文本中提取结构化知识（如实体、关系、事件），因任务特定模式与复杂文本表达给现有方法带来挑战。代码作为典型的形式化语言，能够以通用方式描述不同模式下的结构化知识。另一方面，在代码与文本上训练的大语言模型（LLM）已展现出将文本转为代码的强大能力，为 IE 任务提供可行方案。因此，本文提出一种基于 LLM 的通用检索增强代码生成框架 Code4UIE 用于 IE 任务。具体而言，Code4UIE 采用 Python 类以通用方式定义各类结构化知识的任务特定模式。如此，抽取这些模式下的知识可转化为生成用文本信息实例化预定义 Python 类的代码。为更精确生成代码，Code4UIE 采用上下文学习机制以示例指导 LLM。为获取不同任务的合适示例，Code4UIE 探索了若干示例检索策略，可检索与给定文本语义相似的示例。在九个数据集上五个代表性 IE 任务的广泛实验证明了 Code4UIE 框架的有效性。
引用
@article{arxiv.2311.02963,
title = {Cyclic structure, vertex degree and number of linear vertices in Minimal Strong Digraphs},
author = {Miguel Arcos Argudo and Jesus Lacalle and Luis Miguel Pozo Coronado},
journal= {arXiv preprint arXiv:2311.02963},
year = {2023}
}