穿越隐式嵌入空间:引导 LLM 提升精神健康评估能力
计算与语言
2025-10-21 v1 人工智能
摘要
大型语言模型(LLM)的快速演进正在改变 AI 领域,为精神健康(MH)等敏感且高影响力领域带来了新机遇。然而,尽管取得了这些进展,近期证据表明,较小规模的模型在特定应用领域仍难实现最佳性能。在本研究中,我们提出一种高性价比且强大的办法,不依赖任何计算密集型技术来提高 LLM 在 MH 评估方面的能力。我们的轻量级方法包括对特定层激活应用的线性变换,利用引导向量来指导模型的输出。惊人的是,这一干预使模型在两个不同任务上实现了改进结果:(1) 识别 Reddit 帖子是否对检测抑郁症的有无意义(相关性预测任务),(2) 基于用户的 Reddit 帖子历史完成标准化的抑郁心理筛查问卷(问卷完成任务)。结果凸显了引导机制作为 LLM MH 领域适应工具的非计算密集潜力。
引用
@article{arxiv.2510.16373,
title = {Navigating through the hidden embedding space: steering LLMs to improve mental health assessment},
author = {Federico Ravenda and Seyed Ali Bahrainian and Andrea Raballo and Antonietta Mira},
journal= {arXiv preprint arXiv:2510.16373},
year = {2025}
}