KnowPrompt：用于关系提取的具有协同优化的知识感知提示微调
计算与语言
2023-09-19 v7 人工智能
信息检索
机器学习
摘要
近来，提示微调（prompt-tuning）在特定少样本分类任务上取得了有前景的结果。提示微调的核心思想是将文本片段（即模板）插入输入中，并将分类任务转化为掩码语言建模问题。然而，对于关系提取，确定合适的提示模板需要领域专业知识，且获取合适的标签词繁琐且耗时。此外，关系标签之间存在丰富的语义和先验知识，不可忽视。为此，我们专注于将关系标签间的知识融入关系提取的提示微调中，并提出一种具有协同优化的知识感知提示微调方法（KnowPrompt）。具体而言，我们将关系标签中包含的潜在知识通过可学习的虚拟类型词和答案词注入提示构建中。然后，我们在结构化约束下协同优化它们的表示。在五个数据集上采用标准和低资源设置的广泛实验结果证明了我们方法的有效性。我们的代码和数据集可在 https://github.com/zjunlp/KnowPrompt 获取以复现。
引用
@article{arxiv.2104.07650,
title = {KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction},
author = {Xiang Chen and Ningyu Zhang and Xin Xie and Shumin Deng and Yunzhi Yao and Chuanqi Tan and Fei Huang and Luo Si and Huajun Chen},
journal= {arXiv preprint arXiv:2104.07650},
year = {2023}
}
备注
Accepted by WWW2022