中文

基于 Transformer 的推特性别识别

计算与语言 2022-05-16 v1 人工智能 社会与信息网络

摘要

社交媒体包含关于人与社会的有用信息,可助力商业与金融、健康、社会经济不平等与性别脆弱性等诸多领域的深入研究(例如通过观点挖掘、情感/情绪分析以及统计分析)。用户人口统计信息提供了丰富的信息,有助于进一步研究该主题。然而,性别等用户人口统计信息被视为隐私,并不公开可得。在本研究中,我们提出一种基于 Transformer 的模型,根据用户图像与推文预测其性别。我们基于 Vision Transformers (ViT) 微调模型以区分女性与男性图像。接着,我们基于 Bidirectional Encoders Representations from Transformers (BERT) 微调另一模型,通过推文识别用户性别。这极为有益,因为并非所有用户都提供表明其性别的图像。此类用户的性别可由其推文检测。该组合模型将图像与文本分类模型的准确率分别提升了 6.98% 与 4.43%。这表明图像与文本分类模型能够通过相互提供额外信息而互补。我们将方法应用于 PAN-2018 数据集,获得了 85.52% 的准确率。

关键词

引用

@article{arxiv.2205.06801,
  title  = {Twitter-Based Gender Recognition Using Transformers},
  author = {Zahra Movahedi Nia and Ali Ahmadi and Bruce Mellado and Jianhong Wu and James Orbinski and Ali Agary and Jude Dzevela Kong},
  journal= {arXiv preprint arXiv:2205.06801},
  year   = {2022}
}