Explorers at #SMM4H 2023:通过知识与模型融合增强面向健康应用的 BERT
计算与语言
2023-12-19 v1 社会与信息网络
摘要
越来越多的人愿意在社交媒体上发布状态和观点,这使其成为研究人类健康的宝贵数据资源。此外,社交媒体现已成为医疗保健的关键研究点。本文概述了我们参与 #SMM4H 2023 Shared Tasks 的方法,包括数据预处理、持续预训练和微调优化策略。特别是对于 Named Entity Recognition (NER) 任务,我们利用了名为 W2NER 的模型架构,该架构有效增强了模型的泛化能力。我们的方法在 Task 3 中获得第一名。本文已通过同行评审并被接受在 #SMM4H 2023 Workshop 上展示。
引用
@article{arxiv.2312.10652,
title = {Explorers at #SMM4H 2023: Enhancing BERT for Health Applications through Knowledge and Model Fusion},
author = {Xutong Yue and Xilai Wang and Yuxin He and Zhenkun Zhou},
journal= {arXiv preprint arXiv:2312.10652},
year = {2023}
}