利用知识图谱通过潜在语义填补更新科学词嵌入
计算与语言
2022-10-28 v1
摘要
科学文本中最有趣的词往往是新词或罕见词。这对科学词嵌入模型提出了挑战，即如何为不常用或新出现的有效术语确定高质量的嵌入向量。我们展示了潜在语义填补（LSI）如何通过从最新的知识图谱中填补领域特定词的嵌入来解决这一问题，同时保留原有的词嵌入模型。我们使用 MeSH 知识图谱为生物医学术语填补嵌入向量而无需重新训练，并在领域特定的词对相似度任务上评估了所得的嵌入模型。我们表明，LSI 能够为生物医学领域中的罕见词和词表外（OOV）术语生成可靠的嵌入向量。
引用
@article{arxiv.2210.15358,
title = {Leveraging knowledge graphs to update scientific word embeddings using latent semantic imputation},
author = {Jason Hoelscher-Obermaier and Edward Stevinson and Valentin Stauber and Ivaylo Zhelev and Victor Botev and Ronin Wu and Jeremy Minton},
journal= {arXiv preprint arXiv:2210.15358},
year = {2022}
}
备注
Accepted for the Workshop on Information Extraction from Scientific Publications at AACL-IJCNLP 2022