FedKIM：面向医学基础模型的自适应知识注入
机器学习
2025-05-06 v4 人工智能
摘要
基础模型在处理多种模态和任务方面已展现出卓越能力，超越了高度依赖特定任务和模态的传统人工智能方法。然而，在医学领域，由于多样模态获取受限以及严格的隐私法规，全面基础模型的发展受到制约。为应对这些限制，本研究提出了一种新颖的知识注入方法 FedKIM，旨在联邦学习框架内扩展医学基础模型。FedKIM 利用轻量级本地模型从私有数据中提取医疗健康知识，并通过设计的自适应多任务多模态专家混合（M3OE）模块将这些知识整合到集中式基础模型中。该方法不仅保护了隐私，还增强了模型处理涉及多种模态的复杂医学任务的能力。我们在七种模态的十二项任务上进行了广泛实验，证明了 FedKIM 在各种设置下的有效性，凸显了其在无需直接访问敏感数据的情况下扩展医学基础模型的潜力。
关键词
引用
@article{arxiv.2408.10276,
title = {FEDKIM: Adaptive Federated Knowledge Injection into Medical Foundation Models},
author = {Xiaochen Wang and Jiaqi Wang and Houping Xiao and Jinghui Chen and Fenglong Ma},
journal= {arXiv preprint arXiv:2408.10276},
year = {2025}
}
备注
Accepted by EMNLP'24 Main