面向医疗联邦学习中使用集成方法实现更高效数据估值
机器学习
2022-09-13 v1 人工智能
摘要
联邦学习(FL)指多家机构在不共享数据的情况下协作训练机器学习模型，正日益普及。参与机构贡献可能并不均等：有些贡献更多数据，有些贡献更高质量数据，有些贡献更多样化数据。为公平排序各机构贡献，Shapley值(SV)已成为首选方法。精确SV计算代价高昂得难以承受，尤其当贡献者达数百个时。现有SV计算技术采用近似方法。然而在医疗领域，贡献机构数量未必庞大，计算精确SV仍极其昂贵但非不可能。针对此类场景，我们提出一种高效SV计算技术SaFE(使用集成方法的联邦学习Shapley值)。我们通过实验表明，SaFE计算的值接近精确SV，且优于当前SV近似方法。这在医学影像场景中尤为相关，其中机构间广泛异质性普遍存在，且需要快速准确的数据估值以确定多机构协作学习中各参与方的贡献。
引用
@article{arxiv.2209.05424,
title = {Towards More Efficient Data Valuation in Healthcare Federated Learning using Ensembling},
author = {Sourav Kumar and A. Lakshminarayanan and Ken Chang and Feri Guretno and Ivan Ho Mien and Jayashree Kalpathy-Cramer and Pavitra Krishnaswamy and Praveer Singh},
journal= {arXiv preprint arXiv:2209.05424},
year = {2022}
}
备注
3rd MICCAI Workshop on Distributed, Collaborative and Federated Learning