提升社交媒体中不良药物事件归一化:通用模型初始化与生物医学语义文本相似度助力非正式语境下的零样本链接
计算与语言
2023-08-02 v1
摘要
生物医学实体链接(又称生物医学概念归一化)近年来见证了零样本对比模型的崛起。然而,这些模型所用的预训练材料迄今在很大程度上由专业生物医学内容构成,如 MIMIC-III 临床记录(Johnson 等,2016)和 PubMed 论文(Sayers 等,2021;Gao 等,2020)。尽管由此产生的领域内模型在许多生物医学任务上展现出有前景的结果,但社交媒体文本上的不良药物事件归一化迄今对它们而言仍具挑战性(Portelli 等,2022)。本文提出一种针对社交媒体不良药物事件归一化的新方法,该方法依赖通过 BioLORD(Remy 等,2022)的通用模型初始化,以及一种名为 STS 的语义文本相似度微调。我们在多个社交媒体数据集上的实验结果表明了所提方法的有效性,取得了最先进的性能。基于其在所有测试数据集上的强劲表现,我们认为本工作可成为社交媒体不良药物事件归一化任务的转折点,并有望作为该领域未来研究的基准。
引用
@article{arxiv.2308.00157,
title = {Boosting Adverse Drug Event Normalization on Social Media: General-Purpose Model Initialization and Biomedical Semantic Text Similarity Benefit Zero-Shot Linking in Informal Contexts},
author = {François Remy and Simone Scaboro and Beatrice Portelli},
journal= {arXiv preprint arXiv:2308.00157},
year = {2023}
}