变压器与 LSTM 模型用于检测 Reddit 自杀倾向的比较分析
机器学习
2025-03-11 v1 计算与语言
社会与信息网络
摘要
自杀是全球健康问题，年均导致超过 70 万人死亡，尤其在年轻人群中。许多人会在社交媒体平台如 Reddit 上表达自杀念头。本文评估了基于变压器的深度学习模型（BERT、RoBERTa、DistilBERT、ALBERT 和 ELECTRA）以及 various 长短期记忆网络 (LSTM) 模型在检测 Reddit 用户帖子中自杀倾向方面的效果。为此，我们从多样化的 subreddit 中构建了详尽的数据集，并进行了语言学、主题建模和统计分析，以确保数据质量。我们的结果表明，每个模型都能达到高准确率和 F1 分数，但其中 RoBERTa 表现最佳，准确率为 93.22%，F1 分数为 93.14%。一个采用注意力机制和 BERT 嵌入的 LSTM 模型排名第二，准确率为 92.65%，F1 分数为 92.69%。我们的发现表明，变压器模型有望提高自杀倾向检测能力，从而为从社交媒体开发健全的心理健康监测工具提供可能性。因此，本研究凸显了自然语言处理 (NLP) 中先进技术在改善自杀预防方面的不可否认的前景。
引用
@article{arxiv.2411.15404,
title = {A Comparative Analysis of Transformer and LSTM Models for Detecting Suicidal Ideation on Reddit},
author = {Khalid Hasan and Jamil Saquer},
journal= {arXiv preprint arXiv:2411.15404},
year = {2025}
}
备注
23rd IEEE International Conference on Machine Learning and Applications, ICMLA 2024 (camera-ready)