用于评估 AI 驱动心理治疗虚拟代理的风险本体

大型语言模型（LLM）和智能虚拟代理作为心理治疗师的兴起，为扩大精神健康护理的覆盖范围带来了重要机遇。然而，其部署也与严重的不良结果（包括用户受伤和自杀）相关联，这些结果是由于缺乏能够捕捉治疗互动中细微风险的标准化评估方法所致。当前的评估技术缺乏灵敏性，无法检测治疗期间对患者认知和行为细微变化，这些变化可能导致后续的恶化。我们提出了一种新颖的风险本体，专为系统评估对话式 AI 心理治疗师而设计。该本体通过迭代过程开发，包括审查心理治疗风险文献、对临床和法律专家的定性访谈，以及与既定临床标准（如DSM-5）和现有评估工具（如NEQ、UE-ATR）的对齐，旨在提供一种结构化方法来识别和评估用户/患者受伤。我们提供了该本体的高层概览，详细说明了其基础，讨论了潜在用例。我们详细讨论了四个用例：监控真实用户交互、使用模拟患者进行评估、进行基准测试和比较分析，以及识别意外结果。该提议本体为建立 AI 驱动的心理健康支持领域更安全、更负责任的创新提供了基础性步骤。