公平去中心化学习
机器学习
2025-05-30 v3 分布式、并行与集群计算
摘要
去中心化学习(DL)是一种新兴方法,使节点能够在不共享原始数据的情况下协同训练机器学习模型。在许多应用领域(如医疗保健)中,这种方法面临由于训练数据的特征空间高度异构性带来的挑战。这种特征异构性降低了模型效用,并对公平性产生负面影响,尤其是针对训练数据 underrepresented的节点。本文引入\textsc{Facade},一种基于聚类的去中心化学习算法,专为公平模型训练设计,适用于训练数据具有多个不同特征的情形。\textsc{Facade}的挑战在于,基于其本地数据的特征相似性,将节点分配到每个特征对应的簇中,而无需单个节点事先知道自己属于哪个簇。\textsc{Facade}(1)动态地将节点分配到其适当的簇中,(2)使节点能够在完全去中心化的方式下为每个簇协同训练专用模型。我们对\textsc{Facade}进行了收敛性理论证明,实现了该算法,并将其与三个state-of-the-art基线进行比较。我们在三个数据集上的实验结果表明,与所有三个竞争者相比,\textsc{Facade}在模型准确率和公平性方面均表现出优势。与最佳基线相比,\textsc{Facade}在CIFAR-10数据集上还能在簇大小不平衡时,将通信成本降低32.3%以达到目标准确率。
引用
@article{arxiv.2410.02541,
title = {Fair Decentralized Learning},
author = {Sayan Biswas and Anne-Marie Kermarrec and Rishi Sharma and Thibaud Trinca and Martijn de Vos},
journal= {arXiv preprint arXiv:2410.02541},
year = {2025}
}
备注
To appear in the proceedings of "3rd IEEE Conference on Secure and Trustworthy Machine Learning" (SatML'25)