极地鸭子与寻踪之道:以鸭子类型与极地盒嵌入增强实体链接
计算与语言
2023-10-23 v2 人工智能
摘要
基于稠密检索的实体链接方法在大规模应用中是一种高效且广泛使用的解决方案,但其性能不及生成式模型,因为它们对嵌入空间的结构十分敏感。为解决此问题,本文提出 DUCK,一种利用实体类型的先验知识将结构信息注入实体表示空间的方法。受编程语言中鸭子类型的启发,我们提议基于实体在知识图谱中与其他实体的关系来定义实体类型。随后,将盒嵌入的概念移植到球极坐标,我们提议将关系表示为超球面上的盒子。我们优化模型,通过将相似类型的实体放置于其对应关系的盒子内来实现聚类。实验表明,我们的方法在标准实体消歧基准上取得了新的 SOTA 结果,将模型性能提升至多 7.9 个 F1 点,优于其他类型感知方法,并以少 18 倍参数的规模匹配了生成式模型的结果。
引用
@article{arxiv.2305.12027,
title = {Polar Ducks and Where to Find Them: Enhancing Entity Linking with Duck Typing and Polar Box Embeddings},
author = {Mattia Atzeni and Mikhail Plekhanov and Frédéric A. Dreyer and Nora Kassner and Simone Merello and Louis Martin and Nicola Cancedda},
journal= {arXiv preprint arXiv:2305.12027},
year = {2023}
}
备注
Accepted at EMNLP 2023