BioLORD：从定义中学习本体表示（面向生物医学概念及其文本描述）
计算与语言
2022-10-24 v1 信息检索
摘要
本工作提出 BioLORD，一种用于生成临床句子与生物医学概念有意义表示的新预训练策略。最先进的方法通过最大化指代同一概念的名称在表示上的相似性，并借助对比学习防止表示坍缩来运作。然而，由于生物医学名称并非总是自解释的，这有时会导致非语义的表示。BioLORD 通过使用定义以及从由生物医学本体构成的多关系知识图谱导出的简短描述来锚定其概念表示，从而克服该问题。得益于这种锚定，我们的模型生成了更具语义的概念表示，更紧密地匹配本体的层次结构。BioLORD 在临床句子（MedSTS）与生物医学概念（MayoSRS）的文本相似性任务上确立了新的 SOTA。
引用
@article{arxiv.2210.11892,
title = {BioLORD: Learning Ontological Representations from Definitions (for Biomedical Concepts and their Textual Descriptions)},
author = {François Remy and Kris Demuynck and Thomas Demeester},
journal= {arXiv preprint arXiv:2210.11892},
year = {2022}
}
备注
Accepted in Findings of EMNLP 2022