社交媒体上的心理健康多类分类：Transformer架构与LSTM模型的基准评测
计算与语言
2025-09-23 v1 信息检索
机器学习
摘要
数百万人在社交媒体上公开分享心理健康困扰，为抑郁症、双相情感障碍等疾病的早期检测提供了丰富的数据。然而，大多数先前的自然语言处理（NLP）研究都集中在单一疾病的识别上，在理解先进NLP技术区分多种心理健康状况的有效性方面留下了空白。在这项工作中，我们提出了一项大规模的比较研究，对最先进的Transformer模型与基于长短期记忆网络（LSTM）的模型进行基准评测，以将心理健康帖子分类为互斥的心理健康状况类别。我们首先整理了一个包含六种心理健康状况和一个对照组的大型Reddit帖子数据集，并使用严格的过滤和统计探索性分析来确保标注质量。然后，我们在相同条件下评估了五种Transformer架构（BERT、RoBERTa、DistilBERT、ALBERT和ELECTRA）与几种LSTM变体（带或不带注意力机制，使用上下文或静态嵌入）。实验结果表明，Transformer模型始终优于其他替代方案，其中RoBERTa在所有类别上达到了91-99%的F1分数和准确率。值得注意的是，带有BERT嵌入的注意力增强型LSTM在训练速度快2-3.5倍的同时，其性能接近Transformer（F1分数高达97%），而使用静态嵌入的LSTM则未能学习到有用的信号。这些发现代表了多类别心理健康检测的首个全面基准，为模型选择提供了实用指导，并突显了在现实世界部署心理健康NLP系统时准确性与效率之间的权衡。
引用
@article{arxiv.2509.16542,
title = {Mental Multi-class Classification on Social Media: Benchmarking Transformer Architectures against LSTM Models},
author = {Khalid Hasan and Jamil Saquer and Yifan Zhang},
journal= {arXiv preprint arXiv:2509.16542},
year = {2025}
}
备注
24th IEEE International Conference on Machine Learning and Applications, ICMLA 2025 (camera-ready)