ICL-D3IE：用于文档信息抽取的多样化示例更新上下文学习
计算与语言
2023-08-22 v4
摘要
大语言模型 (LLMs)，如 GPT-3 与 ChatGPT，已通过上下文学习在各类自然语言处理 (NLP) 任务中展现出卓越结果，后者基于少量示范样例进行推理。尽管在 NLP 任务上取得成功，尚未有研究评估 LLMs 利用上下文学习执行文档信息抽取 (DIE) 的能力。将 LLMs 应用于 DIE 面临两个挑战：模态与任务鸿沟。为此，我们提出一个简单而有效的上下文学习框架 ICL-D3IE，使 LLMs 能利用不同类型的示范样例执行 DIE。具体而言，我们从困难训练文档中提取最困难且最具区分度的片段作为困难示例，以惠及所有测试实例。我们设计描述位置关系的示例，使 LLMs 理解位置关联。我们引入格式化示例以便于答案抽取。此外，该框架通过迭代更新来改进多样化示例。我们在三个广泛使用的基准数据集上的实验表明，相较于先前在全训练上微调的预训练方法，ICL-D3IE 框架使 Davinci-003/ChatGPT 在分布内 (ID) 与分布外 (OOD) 设定下均取得更优性能。代码见 https://github.com/MAEHCM/ICL-D3IE。
引用
@article{arxiv.2303.05063,
title = {ICL-D3IE: In-Context Learning with Diverse Demonstrations Updating for Document Information Extraction},
author = {Jiabang He and Lei Wang and Yi Hu and Ning Liu and Hui Liu and Xing Xu and Heng Tao Shen},
journal= {arXiv preprint arXiv:2303.05063},
year = {2023}
}
备注
ICCV 2023. Code is available at https://github.com/MAEHCM/ICL-D3IE