基于知识感知分层图建模细粒度信息的零样本实体检索
计算与语言
2022-11-22 v1
摘要
零样本实体检索旨在零样本设定下将提及链接到候选实体，对自然语言处理中的许多任务至关重要。现有多数方法通过预训练语言模型对应上下文的句子嵌入来表示提及/实体。然而，我们认为这种粗粒度的句子嵌入无法充分建模提及/实体，尤其是当朝向提及/实体的注意力分数相对较低时。在本工作中，我们提出GER，一个图增强实体检索框架，以捕获更细粒度的信息作为句子嵌入的补充。我们从对应上下文中提取知识单元，然后构建以提及/实体为中心的图。因此，我们可以通过聚合来自这些知识单元的信息来学习关于提及/实体的细粒度信息。为避免中心提及/实体节点的图信息瓶颈，我们构建了分层图并设计了一种新颖的分层图注意力网络（HGAN）。在流行基准上的实验结果表明，我们提出的GER框架优于先前最先进的模型。代码已发布于 https://github.com/wutaiqiang/GER-WSDM2023。
引用
@article{arxiv.2211.10991,
title = {Modeling Fine-grained Information via Knowledge-aware Hierarchical Graph for Zero-shot Entity Retrieval},
author = {Taiqiang Wu and Xingyu Bai and Weigang Guo and Weijie Liu and Siheng Li and Yujiu Yang},
journal= {arXiv preprint arXiv:2211.10991},
year = {2022}
}
备注
9 pages, 5 figures