从优化到泛化：通过客户端间锐度匹配应对质量偏移的公平联邦学习
机器学习
2024-12-19 v2 计算机视觉与模式识别
摘要
随着隐私问题的日益凸显，联邦学习已被视为利用去中心化医疗数据训练深度神经网络的重要方法。在实践中，由于设备故障影响少数客户端，很难确保各机构间成像质量的一致性。这种图像质量的不平衡会导致联邦模型对高质量图像产生内在偏差，从而引发严重的公平性问题。在本研究中，我们率先在成像质量偏移的背景下识别并提出了这一新的公平性挑战。传统上促进联邦学习公平性的方法主要侧重于平衡不同客户端分布间的经验风险。该策略主要促进了不同训练数据分布间的公平优化，却忽略了泛化这一关键方面。为了解决这一问题，我们引入了一种名为联邦学习客户端间锐度匹配（FedISM）的解决方案。FedISM 通过引入锐度感知来增强本地训练和全局聚合，旨在协调各客户端的锐度水平以实现公平泛化。我们使用广泛使用的 ICH 和 ISIC 2019 数据集进行的实证评估，确立了 FedISM 在促进公平性方面优于当前 SOTA 联邦学习方法的地位。代码可在 https://github.com/wnn2000/FFL4MIA 获取。
引用
@article{arxiv.2404.17805,
title = {From Optimization to Generalization: Fair Federated Learning against Quality Shift via Inter-Client Sharpness Matching},
author = {Nannan Wu and Zhuo Kuang and Zengqiang Yan and Li Yu},
journal= {arXiv preprint arXiv:2404.17805},
year = {2024}
}
备注
This paper is accepted at IJCAI'24 (Main Track)