深度学习模型在从 Twitter 检测膳食补充剂不良事件信号中的应用
计算与语言
2021-06-23 v1 信息检索
摘要
目的:本研究的目的是开发一种深度学习流程,从 Twitter 中检测膳食补充剂相关不良事件(DS AEs)的信号。材料与方法:我们获取了 2012 至 2018 年间提及 DS 和 AE 的 247,807 条推文。我们在随机选取的 2,000 条推文上标注了生物医学实体与关系。对于概念抽取任务,我们将传统词嵌入结合 SVM、CRF 和 LSTM-CRF 分类器的性能与 BERT 模型进行比较。对于关系抽取任务,我们将 GloVe 向量结合 CNN 分类器与 BERT 模型进行比较。我们选取各任务中性能最佳的模型组装端到端深度学习流程以检测 DS AE 信号,并将结果与来自 DS 知识库(即 iDISK)的已知 DS AEs 比较。结果:两项任务中,基于 BERT 的模型均优于传统词嵌入。性能最佳的概念抽取模型为 BioBERT 模型,其识别补充剂、症状和身体器官实体的 F1 值分别为 0.8646、0.8497 和 0.7104。性能最佳的关系抽取模型为 BERT 模型,其识别目的和 AE 关系的 F1 值分别为 0.8335 和 0.7538。端到端流程抽取 DS 适应症和 DS AEs 的 F1 值分别为 0.7459 和 0.7414。与 iDISK 比较,我们发现了已知和 novel 的 DS-AEs。结论:我们证明了利用基于 BioBERT 的深度学习流程从 Twitter 检测 DS AE 信号的可行性。
引用
@article{arxiv.2106.11403,
title = {Deep Learning Models in Detection of Dietary Supplement Adverse Event Signals from Twitter},
author = {Yefeng Wang and Yunpeng Zhao and Jiang Bian and Rui Zhang},
journal= {arXiv preprint arXiv:2106.11403},
year = {2021}
}
备注
1 Figure, 6 Tables