超越单轮：将拒绝重新定义为嵌入心理健康支持交互情境中的动态体验
人机交互
2026-05-25 v3
摘要
内容警告：本文包含与心理健康挑战、情感痛苦和自杀倾向相关的参与者引语和讨论。大型语言模型 (LLM) 正在用于心理健康支持，但模型安全措施——尤其是对敏感内容的拒绝回应——从用户和心理健康专业人士 (MHP) 的视角仍鲜有了解，且已被报告导致实际伤害。本文 presenting 来自顺序混合方法研究的发现，探讨 LLM 拒绝在心理健康支持交互中的经验与解读。通过对 53 名使用 LLM 进行心理健康支持的个体和 16 名 MHP 的调查与深入访谈，我们揭示拒绝并非孤立的单轮系统行为，而是构成动态、多阶段的经验：拒绝前的期望形成、拒绝触发与遭遇、拒绝信息表述、资源 referrals 提供以及拒绝后的结果。我们贡献了一个超越二元政策合规准确性的拒绝评估多阶段框架，并提供设计建议用于未来的拒绝机制。这些发现表明，理解 LLM 拒绝需要超越单轮交互，转而将其识别为嵌入用户支持寻求轨迹以及更广泛 LLM 设计管道中的整体性经验。
引用
@article{arxiv.2602.01694,
title = {Beyond the Single Turn: Reframing Refusals as Dynamic Experiences Embedded in the Context of Mental Health Support Interactions with LLMs},
author = {Ningjing Tang and Alice Qian and Qiaosi Wang and Esther Howe and Blake Bullwinkel and Paola Pedrelli and Jina Suh and Hoda Heidari and Hong Shen},
journal= {arXiv preprint arXiv:2602.01694},
year = {2026}
}