通过联邦学习与源-目标远程梯度对齐实现可访问源数据的部署后自适应
计算机视觉与模式识别
2023-09-01 v1 人工智能
摘要
深度神经网络在医学影像中的部署受限于训练数据与部署后处理数据之间的分布偏移，导致性能下降。部署后自适应（PDA）利用有限的标注或完全无标注的目标数据，将预训练且已部署的模型调整至目标数据分布，同时假设无法访问源训练数据，因为出于隐私顾虑及其庞大规模，它们无法随模型部署。这使得由于有限的学习信号而难以可靠自适应。本文挑战该假设并引入 FedPDA，一种新颖的自适应框架，将联邦学习中从远程数据学习的效用带入 PDA。FedPDA 使已部署模型能够通过远程梯度交换从源数据获取信息，同时旨在专门针对目标域优化模型。为适配 FedPDA，我们引入一种新颖优化方法 StarAlign（源-目标远程梯度对齐），其通过最大化源-目标域对之间的内积来对齐梯度，以促进学习特定于目标的模型。我们使用多中心数据库在癌症转移检测和皮肤病变分类任务上展示了方法的有效性，其中我们的方法优于先前工作。代码见：https://github.com/FelixWag/StarAlign
引用
@article{arxiv.2308.16735,
title = {Post-Deployment Adaptation with Access to Source Data via Federated Learning and Source-Target Remote Gradient Alignment},
author = {Felix Wagner and Zeju Li and Pramit Saha and Konstantinos Kamnitsas},
journal= {arXiv preprint arXiv:2308.16735},
year = {2023}
}
备注
This version was accepted for the Machine Learning in Medical Imaging (MLMI 2023) workshop at MICCAI 2023