基于Transformer的语言模型分析COVID-19推文
计算与语言
2021-05-07 v3 计算机与社会
摘要
本文描述了一种利用基于Transformer的语言模型(TLMs)从社交媒体帖子中理解公众意见的方法。在该方法中,我们在若干反映具有不同观点用户群体的COVID-19推文语料库上训练一组GPT模型。随后,我们使用基于提示的查询探查这些模型,以揭示用户偏见与意见中的洞见。我们展示了该方法如何用于产生类似于就多样社会、政治与公共卫生议题对公众进行民调的结果。在COVID-19推文数据上的结果表明,Transformer语言模型是有前景的工具,可帮助我们大规模理解社交媒体上的公众意见。
引用
@article{arxiv.2104.10259,
title = {Analyzing COVID-19 Tweets with Transformer-based Language Models},
author = {Philip Feldman and Sim Tiwari and Charissa S. L. Cheah and James R. Foulds and Shimei Pan},
journal= {arXiv preprint arXiv:2104.10259},
year = {2021}
}
备注
Six pages, six tables, four figures