MedFedPure：基于 MAE 检测与扩散净化的医学联邦学习推理防御框架
机器学习
2025-11-18 v1 人工智能
密码学与安全
摘要
人工智能（AI）在医学影像中展现出巨大潜力，尤其是在利用磁共振成像（MRI）进行脑肿瘤检测方面。然而，这些模型在通过联邦学习（FL）协同训练时仍在推理阶段 vulnerable。联邦学习是一种保护患者隐私的做法。对抗性攻击可以以肉眼难以察觉的方式 subtly alteration 医学扫描，却足以误导 AI 模型，从而可能导致严重误诊。现有防御方法往往假设集中数据，难以应对联邦医疗环境中去中心化和多样化的特点。本文提出了 MedFedPure，一个在不牺牲隐私或准确率的前提下，为诊断 AI 模型在推理阶段提供防御的个人化联邦学习框架。MedFedPure 结合了三个关键要素：（1）适应每个机构唯一数据分布的个人化联邦学习模型；（2）基于掩码自编码器（MAE）通过暴露隐藏扰动来检测可疑输入；（3）一种自适应扩散净化模块，用于在分类前对仅标记的扫描进行选择性清洗。这些步骤共同提供了强大的防御能力，同时保留了正常良性图像的完整性。我们在 Br35H 脑 MRI 数据集上评估了 MedFedPure。结果表明，在强大攻击下，对抗鲁棒性显著提升，从 49.50% 提升至 87.33%，而保持高达 97.67% 的干净数据准确率。该框架在诊断过程中在本地实时运行，为在临床工作流程中部署安全可靠、保护隐私的人工智能工具提供了可行路径。
引用
@article{arxiv.2511.11625,
title = {MedFedPure: A Medical Federated Framework with MAE-based Detection and Diffusion Purification for Inference-Time Attacks},
author = {Mohammad Karami and Mohammad Reza Nemati and Aidin Kazemi and Ali Mikaeili Barzili and Hamid Azadegan and Behzad Moshiri},
journal= {arXiv preprint arXiv:2511.11625},
year = {2025}
}