LLM 驱动精神医学中的异常性问题
计算机与社会
2025-08-11 v1
摘要
大型语言模型（LLM）日益被提议作为应对全球精神健康危机的可扩展解决方案。但其在精神医学背景下的部署引发了一个独特的伦理问题：异常性问题。由于 LLM 的输出基于人群水平的统计常规，其响应虽然对一般用户而言通常是合适的，但可能对解读精神病患者的输出是危险的不恰当，因为这些患者常常表现出异常的认知或解释模式。我们认为，标准的缓解策略，如提示工程或微调，无法解决这一结构性风险。相反，我们提出了动态情境认证（DCC）：一种受临床翻译和人工智能治理中动态安全模型启发，用于在精神医学中部署 LLM 的分阶段、可逆且情境敏感的框架。DCC 将聊天机器人部署重新定义为一个持续的认识论和伦理过程，优先考虑解释安全性而非静态性能基准。我们认为，异常性无法被消除——但必须被主动管理。
引用
@article{arxiv.2508.06479,
title = {The Problem of Atypicality in LLM-Powered Psychiatry},
author = {Bosco Garcia and Eugene Y. S. Chua and Harman Singh Brah},
journal= {arXiv preprint arXiv:2508.06479},
year = {2025}
}
备注
Preprint of 8/8/2025 -- please cite published version. This article has been published in the Journal of Medical Ethics (2025) following peer review and can also be viewed on the journal's website at 10.1136/jme-2025-110972