大语言模型在公共卫生领域应用的风险分类体系与反思工具

近期大语言模型（LLMs）的突破性进展引发了人们对其作为不同领域信息来源或通信工具潜在采用的兴趣和担忧。在公共卫生领域，由于风险较高且影响波及不同人群，采用LLMs带来了需要彻底评估的独特挑战。然而，评估公共卫生领域潜在风险的结构化方法仍未被充分探索。为填补这一空白，我们对公共卫生专业人员和具有亲身经历的个人进行了焦点小组讨论，以梳理他们的关切，这些关切围绕三个不同且关键的公共卫生问题展开：传染病预防（疫苗）、慢性病与健康管理（阿片类药物使用障碍）以及社区健康与安全（亲密伴侣暴力）。我们将参与者的观点综合为一个风险分类体系，识别并情境化LLMs在传统健康通信旁边可能引入的潜在危害。该分类体系突出了对个人、以人为中心的护理、信息生态系统和技术问责四个维度的风险。对每个维度，我们剖析了具体风险并提供了示例反思问题，以帮助从业者采用风险反思方法。通过总结LLMs的独特特征并将其与已识别的风险联系起来，我们讨论了需要重新审视信息行为的先前心理模型，并通过亲身经历和真实实践以外部有效性和领域专业知识来补充评估。总体而言，这项工作为计算和公共卫生领域的人们提供了一个共享词汇和反思工具，以协作式地预测、评估和缓解在决定何时使用（或不使用）LLM能力以及如何减轻损害时的风险。