DeepLearningBrasil@LT-EDI-2023：探索深度学习技术检测社交媒体文本中的抑郁症
计算与语言
2023-11-23 v1 人工智能
摘要
本文阐述了我们 DeepLearningBrasil 团队在共享任务 DepSign-LT-EDI@RANLP-2023 中所采用的策略，该策略使我们以 47.0% 的宏 F1 分数及显著的 2.4% 优势获得第一名。任务是将社交媒体文本分为三个不同的抑郁等级——“未抑郁”“中度抑郁”与“重度抑郁”。借助 RoBERTa 与 DeBERTa 模型之力，我们在收集的 Reddit 数据集上进一步预训练，该数据集专门取自心理健康相关的 Reddit 社区（Subreddits），从而增强对细微心理健康话语的理解。为处理长文本数据，我们采用截断技术，通过聚焦文本首尾保留内容要义。我们的模型通过将样本权重纳入损失而对不平衡数据具有鲁棒性。随后采用交叉验证与集成技术结合 k 折训练的模型，给出最优解。相关代码已公开以保证透明并供进一步开发。
引用
@article{arxiv.2311.05047,
title = {DeepLearningBrasil@LT-EDI-2023: Exploring Deep Learning Techniques for Detecting Depression in Social Media Text},
author = {Eduardo Garcia and Juliana Gomes and Adalberto Barbosa Júnior and Cardeque Borges and Nádia da Silva},
journal= {arXiv preprint arXiv:2311.05047},
year = {2023}
}