中文

Author2Vec:一种生成用户嵌入的框架

计算与语言 2020-03-27 v1 机器学习 机器学习

摘要

网络论坛和社交媒体平台每天提供嘈杂但有价值的数据。在本文中,我们提出一种新颖的基于端到端神经网络的用户嵌入系统Author2Vec。该模型将BERT(Bidirectional Encoder Representations from Transformers)生成的句子表示与一种新颖的无监督预训练目标——作者身份分类相结合,以产生更好的编码有用用户内在属性的用户嵌入。该用户嵌入系统在10k名Reddit用户的发帖数据上进行了预训练,并在两个用户分类基准上进行了分析和评估:抑郁症检测和人格分类,其中该模型被证明优于传统的基于计数和基于预测的方法。我们证实Author2Vec成功编码了有用的用户属性,且生成的用户嵌入在下游分类任务中无需进一步微调即表现良好。

关键词

引用

@article{arxiv.2003.11627,
  title  = {Author2Vec: A Framework for Generating User Embedding},
  author = {Xiaodong Wu and Weizhe Lin and Zhilin Wang and Elena Rastorgueva},
  journal= {arXiv preprint arXiv:2003.11627},
  year   = {2020}
}