基于动态提示微调语言模型的文本 API 实体与关系联合抽取
软件工程
2023-01-11 v1
摘要
从非结构化文本（例如 Stack Overflow）中抽取应用程序编程接口（API）及其语义关系是软件工程任务（例如 API 推荐）的基础工作。然而，现有方法基于规则和序列标注。它们必须手动枚举规则或针对大量句式标注数据，这涉及大量人工开销，并因词形变化和普通词歧义而加剧。与匹配或标注 API 实体和关系不同，本文将异构 API 抽取和 API 关系抽取任务形式化为序列到序列生成任务，并提出了 AERJE，一种基于大型预训练语言模型的 API 实体-关系联合抽取模型。在少量含歧义但标注正确的数据上训练后，AERJE 构建了一个多任务架构，利用动态提示从非结构化文本中抽取 API 实体和关系。我们在来自 Stack Overflow 的一组冗长且含歧义的句子上系统评估了 AERJE。实验结果表明，即使在零样本或少样本微调下，AERJE 在 API 实体-关系联合抽取中也实现了高精度和强判别能力。
引用
@article{arxiv.2301.03987,
title = {API Entity and Relation Joint Extraction from Text via Dynamic Prompt-tuned Language Model},
author = {Qing Huang and Yanbang Sun and Zhenchang Xing and Min Yu and Xiwei Xu and Qinghua Lu},
journal= {arXiv preprint arXiv:2301.03987},
year = {2023}
}