利用 Transformer 与集成方法在社交网络上检测抑郁症
计算与语言
2023-05-10 v1 人工智能
摘要
随着技术对我们生活的影响日益增加,我们见证了社交媒体的使用增多,它已成为不仅用于交流而且用于与社区分享我们想法和感受的重要工具。对于患有抑郁症等精神健康障碍的人群也可观察到这一现象,他们使用社交媒体表达想法并寻求帮助。这为自动处理社交媒体帖子并检测抑郁迹象提供了可能。我们构建了多个基于大型预训练语言模型的分类器用于从社交媒体帖子检测抑郁症。除了微调 BERT、RoBERTA、BERTweet 和 mentalBERT 外,还构建了两类集成模型。我们在来自社交平台 Reddit 和 Twitter 的两个帖子数据集上分析了模型的性能,并研究了跨两个数据集的迁移学习表现。结果表明,Transformer 集成方法优于单一的基于 Transformer 的分类器。
引用
@article{arxiv.2305.05325,
title = {Detection of depression on social networks using transformers and ensembles},
author = {Ilija Tavchioski and Marko Robnik-Šikonja and Senja Pollak},
journal= {arXiv preprint arXiv:2305.05325},
year = {2023}
}