通过知识增强初始化改进联邦适配器微调中的新疾病学习
机器学习
2025-08-15 v1 计算机视觉与模式识别
摘要
在医疗保健领域，联邦学习（FL）是一种广泛采用的框架，能够实现医疗机构之间的隐私保护协作。随着大型基础模型（FMs）展现出令人瞩目的能力，通过经济高效的适配器微调在联邦学习中使用基础模型已成为一种流行方法。鉴于快速演变的医疗环境，个体客户端在借鉴过往经验的同时，通过微调适配器来快速适应新任务或新疾病至关重要。在这项工作中，我们引入了联邦知识增强初始化（FedKEI），这是一个新颖的框架，它利用来自跨客户端和跨任务的过往知识迁移，为使用适配器学习新任务生成有信息的初始化。FedKEI 首先在服务器端进行全局聚类以泛化跨任务知识，随后优化跨簇（簇间权重）和簇内（簇内权重）的聚合权重，从而为每个新任务个性化知识迁移。为了促进更有效地学习簇间和簇内权重，我们采用了一种双层优化方案，该方案跨客户端协作学习全局簇内权重，并针对每个客户端的任务目标优化局部簇间权重。在包括皮肤病学、胸部X光片和视网膜光学相干断层扫描在内的三个不同模态基准数据集上的大量实验表明，与最先进的方法相比，FedKEI 在适应新疾病方面具有优势。
引用
@article{arxiv.2508.10299,
title = {Improving Learning of New Diseases through Knowledge-Enhanced Initialization for Federated Adapter Tuning},
author = {Danni Peng and Yuan Wang and Kangning Cai and Peiyan Ning and Jiming Xu and Yong Liu and Rick Siow Mong Goh and Qingsong Wei and Huazhu Fu},
journal= {arXiv preprint arXiv:2508.10299},
year = {2025}
}