利用深度学习驾驭 COVID-19 错误信息的万花筒
计算与语言
2021-11-01 v1 机器学习
摘要
尽管基于深度学习的混合域迁移学习方法在解决各类自然语言处理任务上取得成功,其并未为从 COVID-19 社交媒体数据中检测错误信息提供可泛化的方案。由于此类数据固有的复杂性——源于其动态(语境快速演化)、微妙(错误信息的类型常模糊不清)与多样(偏斜、细粒度且重叠的类别)性质——有效模型必须捕获目标域的局部与全局语境。通过系统性研究,我们表明:(i) 经由混合域迁移学习所利用的基于深度 Transformer 的预训练模型仅擅长捕获局部语境,因而泛化性差;(ii) 浅层网络-based 领域特定模型与卷积神经网络的组合能以分层方式直接从目标数据高效提取局部与全局语境,从而提供更具泛化性的方案。
引用
@article{arxiv.2110.15703,
title = {Navigating the Kaleidoscope of COVID-19 Misinformation Using Deep Learning},
author = {Yuanzhi Chen and Mohammad Rashedul Hasan},
journal= {arXiv preprint arXiv:2110.15703},
year = {2021}
}
备注
The 2021 Conference on Empirical Methods in Natural Language Processing (EMNLP)