大语言模型能否识别隐性自杀意念？一项实证评估
计算与语言
2026-01-14 v3
摘要
我们提出了一套全面的评估框架，用于评估大语言模型在自杀预防方面的能力，重点关注两个关键方面：隐性自杀意念的识别（IIS）和适当支持性回应的提供（PAS）。我们引入了\ourdata，一个基于心理框架（包括D/S-IAT和消极自动思维）以及真实场景构建的新型数据集，包含1308个测试用例。通过对8种广泛使用的大语言模型在不同语境设置下进行的大量实验，我们发现当前模型在检测隐性自杀意念和提供适当支持方面存在显著困难，凸显了将大语言模型应用于心理健康环境中的关键局限性。我们的研究结果强调了在开发和评估用于敏感心理应用的大语言模型方面需要更复杂的方法。
引用
@article{arxiv.2502.17899,
title = {Can Large Language Models Identify Implicit Suicidal Ideation? An Empirical Evaluation},
author = {Tong Li and Shu Yang and Junchao Wu and Jiyao Wei and Lijie Hu and Mengdi Li and Derek F. Wong and Joshua R. Oltmanns and Di Wang},
journal= {arXiv preprint arXiv:2502.17899},
year = {2026}
}
备注
Dataset: https://huggingface.co/datasets/babytreecc/Implicit-suicide-detection