加权采样分割学习（WSSL）：在分布式学习环境中平衡隐私、鲁棒性与公平性
机器学习
2023-10-31 v1 人工智能
分布式、并行与集群计算
摘要
本研究提出加权采样分割学习（WSSL），一种专为增强分布式机器学习系统中隐私、鲁棒性与公平性而设计的创新框架。不同于传统方法，WSSL 将学习过程分散于多个客户端，从而保障数据机密性。WSSL 有效性的核心在于其利用加权采样。该方法通过依据贡献策略性选择有影响力的客户端，确保公平学习。我们对 WSSL 的评估涵盖多种客户端配置，并采用两个不同数据集：Human Gait Sensor 与 CIFAR-10。我们观察到三个主要益处：模型精度提高、鲁棒性增强，以及在多样客户端构成下保持公平性。值得注意的是，我们的分布式框架持续超越集中式对应方法，在 Human Gait Sensor 与 CIFAR-10 数据集上分别达到 82.63% 与 75.51% 的精度峰值。这些数值对比集中式系统所取得的 81.12% 与 58.60% 最高精度。总体而言，我们的结果支持 WSSL 作为传统集中式学习的有力且可扩展的替代方案，标志着在注重隐私、有韧性且公正的分布式机器学习中向前迈出了关键一步。
引用
@article{arxiv.2310.18479,
title = {Weighted Sampled Split Learning (WSSL): Balancing Privacy, Robustness, and Fairness in Distributed Learning Environments},
author = {Manish Osti and Aashray Thakuri and Basheer Qolomany and Aos Mulahuwaish},
journal= {arXiv preprint arXiv:2310.18479},
year = {2023}
}