中文

通过领域特定预处理与 BERT 集成从 Twitter 检测药物不良反应

计算与语言 2020-05-15 v1 机器学习 社会与信息网络

摘要

社交媒体中药物不良反应(ADR)检测的自动化将彻底改变药物警戒实践,支持药物监管机构、制药行业和公众确保日常处方药物的安全性。继 2019 年 8 月发表的社交媒体健康挖掘(SMM4H)应用研讨会与共享任务会议录之后,我们旨在开发一种深度学习模型,用于分类包含药物提及的 Twitter 推文中的 ADR。我们的方法涉及微调 BERTLARGEBERT_{LARGE} 和两个领域特定的 BERT 实现,即 BioBERTBioBERTBio+clinicalBERTBio + clinicalBERT,应用领域特定的预处理器,并开发一种最大预测集成方法。我们的最终模型在 F1F_1-分数(0.6681)和召回率(0.7700)上均取得了最先进的性能,优于 SMM4H 2019 提交的所有模型以及迄今为止的后期评估模型。

关键词

引用

@article{arxiv.2005.06634,
  title  = {Detecting Adverse Drug Reactions from Twitter through Domain-Specific Preprocessing and BERT Ensembling},
  author = {Amy Breden and Lee Moore},
  journal= {arXiv preprint arXiv:2005.06634},
  year   = {2020}
}

备注

6 pages, 3 figures, uses acl2018.sty