仅为一点：通过意图区分和表情符号解释提升LLM自伤检测能力
计算与语言
2025-06-06 v1
摘要
社交媒体上的自伤检测对于早期干预和心理健康支持至关重要，但由于这种表达的微妙且依赖于语境的特性，仍然具有挑战性。识别自伤意图有助于 suicide 预防，通过启用及时响应。然而，当前的大型语言模型（LLMs）难以解释日常语言和表情符号中的隐含线索。本工作通过意图区分来增强LLMs对自伤理解。我们提出了百年表情符号灵敏度矩阵（CESM-100），这是一套包含100个表情符号的精选集合，其包含自伤语境解释；以及自伤识别与意图提取结合表情符号灵敏度（SHINES）数据集，提供详细的自伤标签、casual mentions（CMs）和严重意图（SIs）注释。我们的统一框架：a)使用CESM-100丰富输入；b)为多任务学习微调LLMs：自伤检测（主要任务）和CM/SI跨度检测（辅助任务）；c)为自伤预测生成可解释的理由。我们在三个最先进的LLMs-Llama 3、Mental-Alpaca和MentalLlama上进行评估，涵盖零-shot、few-shot和fine-tuned情景。在意图区分与上下文线索的结合下，我们的方法在检测和解释任务方面表现出色，有效地解决了自伤信号固有的模糊性。SHINES数据集、CESM-100和代码库均公开可用：https://www.iitp.ac.in/~ai-nlp-ml/resources.html#SHINES。
引用
@article{arxiv.2506.05073,
title = {Just a Scratch: Enhancing LLM Capabilities for Self-harm Detection through Intent Differentiation and Emoji Interpretation},
author = {Soumitra Ghosh and Gopendra Vikram Singh and Shambhavi and Sabarna Choudhury and Asif Ekbal},
journal= {arXiv preprint arXiv:2506.05073},
year = {2025}
}
备注
To be published in the Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (ACL 2025 Main)