医疗 AI 架构的数据投毒漏洞：一种安全威胁分析
密码学与安全
2026-01-26 v1 人工智能
摘要
医疗 AI 系统面临数据投毒的重大漏洞，现有的防御措施和监管无法充分应对。我们分析了八个攻击场景，分为四类：针对卷积神经网络、大语言模型和强化学习智能体的架构攻击；利用联邦学习和医疗文档系统的基础设施攻击；影响器官移植和危机分诊的关键资源分配攻击；以及针对商业基础模型的供应链攻击。我们的发现表明，仅通过获取 100-500 个样本，攻击者即可 Regardless of 数据集大小，攻击成功率常常超过 60%，检测往往需要 6 个月至 12 个月，或根本不发生。医疗基础设施的分布式特性导致诸多入口点，使拥有常规访问权限的内部人员可通过 limited technical skill 发起攻击。隐私法规如 HIPAA 和 GDPR 可能无意中保护攻击者，通过限制所需检测分析的范围。供应链薄弱性允许单个被篡改的供应商在 50 到 200 所机构中中毒模型。Medical Scribe Sybil 场景展示了如何通过合法的临床工作流程而无需系统入侵即可通过人造患者就诊来投毒数据。当前监管缺乏强制性对抗鲁棒性测试，联邦学习可能加剧风险 by 隐藏归因。我们建议采用多层防御措施，包括强制性对抗测试、基于集成的检测、隐私保护安全机制以及国际协调 AI 安全标准。我们也质疑不透明的黑箱模型是否适用于高风险临床决策，建议转向可解释系统，确保可验证的安全保证。
引用
@article{arxiv.2511.11020,
title = {Data Poisoning Vulnerabilities Across Healthcare AI Architectures: A Security Threat Analysis},
author = {Farhad Abtahi and Fernando Seoane and Iván Pau and Mario Vega-Barbas},
journal= {arXiv preprint arXiv:2511.11020},
year = {2026}
}