FedDBL:用于组织病理组织分类的通信与数据高效联邦深度-宽度学习
图像与视频处理
2023-12-19 v2 计算机视觉与模式识别
摘要
组织病理组织分类是计算病理学中的基础任务。基于深度学习的模型已取得优越性能,但数据集中化的集中式训练存在隐私泄露问题。联邦学习(FL)可通过将训练样本保留在本地来保障隐私,但现有基于 FL 的框架需要大量精标注训练样本和众多轮次通信,阻碍了其在真实临床场景中的实用性。本文提出一个通用轻量联邦学习框架,称为联邦深度-宽度学习(FedDBL),以有限训练样本和仅一轮通信实现优越分类性能。通过简单结合预训练深度学习特征提取器、快速轻量宽度学习推理系统与经典联邦聚合方法,FedDBL 能大幅降低数据依赖并提升通信效率。五折交叉验证表明,FedDBL 在仅一轮通信和有限训练样本下大幅优于对比方法,甚至取得与多轮通信方法相当的性能。此外,得益于轻量设计与一轮通信,FedDBL 在使用 ResNet-50 骨干的 50 轮训练中,将每客户端通信负担从 4.6GB 降至仅 276.5KB。由于不同客户端间无数据或深度模型共享,隐私问题得以良好解决,且模型安全在无模型反演攻击风险下得到保障。代码见 https://github.com/tianpeng-deng/FedDBL。
引用
@article{arxiv.2302.12662,
title = {FedDBL: Communication and Data Efficient Federated Deep-Broad Learning for Histopathological Tissue Classification},
author = {Tianpeng Deng and Yanqi Huang and Guoqiang Han and Zhenwei Shi and Jiatai Lin and Qi Dou and Zaiyi Liu and Xiao-jing Guo and C. L. Philip Chen and Chu Han},
journal= {arXiv preprint arXiv:2302.12662},
year = {2023}
}