面向可信医疗联邦学习的奖励系统

联邦学习（FL）已受到研究者与从业者的高度关注，用于训练医疗领域的机器学习（ML）模型。确保这些模型的可信性至关重要。尤其是偏差，定义为模型在不同子组间预测性能的差异，可能对特定子组造成不公平，这是可信 ML 模型不希望出现的现象。在本研究中，我们探讨医疗 FL 中偏差在何种程度上发生，以及如何通过奖励系统防止过度偏差。我们首先评估如何以 Shapley 值近似方法度量机构在跨机构医疗 FL 中对预测性能与偏差的贡献。第二步，我们设计不同的奖励系统，激励对高预测性能或低偏差的贡献。随后我们提出一种组合奖励系统，同时激励对两者的贡献。我们使用多个医疗胸部 X 光数据集评估我们的工作，聚焦于由患者性别与年龄定义的子组。我们的结果表明，我们能成功度量对偏差的贡献，且一种集成奖励系统成功激励了对低偏差高性能模型的贡献。尽管扫描的划分仅轻微影响总体偏差，以某一子组数据为主的机构会引入对该子组有利的偏差。我们的结果表明，仅关注预测性能的奖励系统可将针对患者的模型偏差转移到机构层面。我们的工作帮助研究者与从业者设计具有良好对齐激励、用于可信 ML 的 FL 奖励系统。