FedBrain-Distill：在非独立同分布数据上利用集成知识蒸馏的通信高效联邦脑肿瘤分类
计算机视觉与模式识别
2025-02-24 v2
摘要
大脑是人体中最复杂的器官之一。由于其复杂性，脑肿瘤的分类仍然构成重大挑战，使脑肿瘤成为一个特别严重的医疗问题。机器学习 (ML) 结合磁共振成像 (MRI) 等技术为医生和医疗机构对不同类型肿瘤进行分类铺平了道路。然而，这些技术存在侵犯患者隐私的局限性。最近引入了联邦学习 (FL) 来解决此类问题，但 FL 本身也存在通信成本和对模型架构的依赖等局限性，迫使所有模型必须具有相同的架构。在本文中，我们提出了 FedBrain-Distill，这是一种在 FL 设置中利用知识蒸馏 (KD) 的方法，它维护了用户隐私并确保了 FL 客户端在模型架构方面的独立性。FedBrain-Distill 使用一组集成教师模型将其知识蒸馏给一个简单的学生模型。对 FedBrain-Distill 的评估表明，在真实世界的 Figshare 脑肿瘤数据集上，针对独立同分布 (IID) 和非 IID 数据均取得了高精度结果，且通信成本大幅降低。值得一提的是，我们使用 Dirichlet 分布将数据划分为 IID 和非 IID 数据。所有实现细节均可通过我们的 Github 仓库访问。
引用
@article{arxiv.2409.05359,
title = {FedBrain-Distill: Communication-Efficient Federated Brain Tumor Classification Using Ensemble Knowledge Distillation on Non-IID Data},
author = {Rasoul Jafari Gohari and Laya Aliahmadipour and Ezat Valipour},
journal= {arXiv preprint arXiv:2409.05359},
year = {2025}
}