面向关注优化的护理：当 LLM 成为精神健康基础设施

通用型大语言模型（LLM）日益被用作精神健康基础设施，因为现有护理资源存在供不应求、保险覆盖不足、社交孤立以及对正式求助带有污名化等缺口。这种转变为 AI 伦理提出了独特挑战：系统既未被设计或治理为护理技术，却被用作此类用途，而其主导的设计动机却优化关注度而非用户福祉。我们 presenting 一项针对使用通用型 LLM 获得社会情感支持的 18 名美国在编参与者的定性、纵向研究结果。参与者因其他形式的支持不可用、负担不起、社交成本高或不足而转向使用 LLM。随着使用持续，包括拟人化线索、默认验证、持续响应以及弱断连机制等设计特征塑造了他们的持续依赖。参与者描述了在意义支持伴随着依赖、通过单向验证导致的认知扭曲、缺乏相应法律保护的隐私期待，以及在意识到这些风险后仍继续使用的情形。我们认为这些动态反映了结构性不公平的权衡：用户因支持缺失而接受风险，而可用系统则被优化以加深关注度且缺乏基于护理的问责。该论文作出三项贡献：追踪 LLM 成为护理基础设施的演进轨迹，识别每个阶段的独特伦理张力，将分析焦点从基于轮次的交互转向使用过程的纵向轨迹，以及主张问责应落在这些系统成为护理基础设施的设计与激励条件上，而非输出或危机响应层面。