释放联邦学习中模型校准的潜力

在过去几年中，各种联邦学习（FL）方法已被开发出来以提高模型准确性，这是机器学习中的一个主要性能指标。然而，为了在实际决策场景中利用FL，除了考虑准确性外，训练后的模型还必须对其每个预测具有可靠的置信度，这一方面在现有的FL研究中很大程度上被忽视了。受此差距的启发，我们提出了非均匀校准联邦学习（NUCFL），这是一个将FL与模型校准概念相结合的通用框架。FL环境中固有的数据异构性使得模型校准特别困难，因为它必须确保跨不同数据分布和客户端条件的可靠性。我们的NUCFL通过基于FL中每个客户端的本地模型与全局模型之间的统计关系动态调整模型校准目标来解决这一挑战。具体而言，NUCFL评估本地与全局模型关系的相似性，并在客户端本地训练期间控制校准损失的惩罚项。通过这样做，NUCFL在异构FL设置中有效地对齐了全局模型的校准需求，同时不牺牲准确性。大量实验表明，NUCFL在各种FL算法上提供了灵活性和有效性，提高了准确性以及模型校准。