大规模知识库-文本嵌入对齐的系统性研究
计算与语言
2021-06-04 v1 机器学习
摘要
知识库(KBs)与文本常包含互补知识:知识库存储可支持长距离推理的结构化知识,而文本以非结构化方式存储更全面且及时的知识。将各知识源单独嵌入向量空间已在编码各自知识上取得巨大成功,但如何联合嵌入并推理两种知识源以充分利用互补信息在很大程度上仍是一个开放问题。我们开展了大规模、系统性的知识库与文本嵌入对齐研究以进行联合推理。我们建立了一个带有少样本链接预测与类比推理两项评估任务的新型评估框架,并评估了一系列知识库-文本嵌入对齐方法。我们还以 COVID-19 为案例,展示了此类对齐如何将文本信息注入知识库嵌入,从而对新兴实体与事件实现更准确的链接预测。
引用
@article{arxiv.2106.01586,
title = {A Systematic Investigation of KB-Text Embedding Alignment at Scale},
author = {Vardaan Pahuja and Yu Gu and Wenhu Chen and Mehdi Bahrami and Lei Liu and Wei-Peng Chen and Yu Su},
journal= {arXiv preprint arXiv:2106.01586},
year = {2021}
}
备注
Accepted to ACL-IJCNLP 2021. 11 pages, 2 figures