面向标签多样性数据集的联邦不确定性加权平均 (FUNAvg)
计算机视觉与模式识别
2024-07-11 v1 人工智能
摘要
联邦学习是一种在分布式、隐私保护环境中训练联合模型的流行范式，但部分标注数据是一个障碍，意味着标签类别在不同客户端之间是异构的。我们提出在联邦方式下学习联合特征提取器，同时每个站点接收其自己的多标签分割头。通过贝叶斯技术，我们观察到虽然这些分割头仅在各自客户端的标签上训练，但也学习了其他标签（即使该站点上不存在这些标签）的信息。这一信息编码在其预测不确定性中。为了获得最终预测，我们利用这种不确定性，对分布式分割头的集合进行加权平均，这使我们能够分割“本地未知”结构。通过我们的方法，称为 FUNAvg，我们在平均情况下甚至可以与在同一数据集上训练和测试的模型保持一致。代码已公开available at https://github.com/Cardio-AI/FUNAvg.
引用
@article{arxiv.2407.07488,
title = {FUNAvg: Federated Uncertainty Weighted Averaging for Datasets with Diverse Labels},
author = {Malte Tölle and Fernando Navarro and Sebastian Eble and Ivo Wolf and Bjoern Menze and Sandy Engelhardt},
journal= {arXiv preprint arXiv:2407.07488},
year = {2024}
}
备注
Accepted at MICCAI24