生成式 AI 模型医疗安全信息下降的系统性分析
计算与语言
2025-07-14 v1 计算工程、金融与科学
人机交互
摘要
生成式 AI 模型，包括大型语言模型 (LLM) 和视觉语言模型 (VLM)，正日益用于解释医学图像并回答临床问题。其回复常包含错误信息；因此，医疗免责声明作为安全措施至关重要，以提醒用户 AI 输出未经专业审核或用于替代医疗建议。本研究评估了 LLM 和 VLM 输出中免责声明的存在情况，涵盖 2022 年至 2025 年间的模型生成。我们使用 500 张乳腊图、500 张胸部 X 光片、500 张皮肤科图像和 500 个医疗问题，对输出进行筛查，查找免责声明短语。LLM 和 VLM 输出中的医疗免责声明存在率分别从 2022 年的 26.3%下降至 2025 年的 0.97%，从 2023 年的 19.6%下降至 2025 年的 1.05%。到 2025 年，大多数模型均不显示免责声明。随着公开模型日益强大和有权威性，必须将免责声明作为一种保障，适应每个输出的临床背景。
引用
@article{arxiv.2507.08030,
title = {A Systematic Analysis of Declining Medical Safety Messaging in Generative AI Models},
author = {Sonali Sharma and Ahmed M. Alaa and Roxana Daneshjou},
journal= {arXiv preprint arXiv:2507.08030},
year = {2025}
}
备注
11 pages, 5 figures