面向联邦分析的边缘辅助民主化学习
机器学习
2021-06-01 v3 网络与互联网体系结构
摘要
近期面向联邦分析（FA）的研究复用联邦学习（FL）基础设施来评估各训练设备上模型性能的汇总，从而允许对分布式数据集进行分析洞察。然而，当前FL采用单服务器-多客户端架构，对FA的支持有限，常导致所学模型泛化能力（即处理新/未见过数据的能力）差，难以满足实际应用。此外，具有分布式计算平台的层次化FL结构在不同聚合层级表现出不一致的模型性能。因此，我们需要设计一种比FL更鲁棒的学习机制，以（i）释放可行的FA基础设施，且（ii）训练具有更好泛化能力的模型。本工作中，我们采用新颖的民主化学习（Dem-AI）原则与设计来实现这些目标。首先，我们展示了所提出的边缘辅助民主化学习机制（即Edge-DemLearn）的层次化学习结构，作为支撑FA并增强泛化能力的实用框架。其次，我们验证Edge-DemLearn是一种灵活的模型训练机制，可通过利用分布式计算基础设施构建区域化的分布式控制与聚合方法。分布式边缘计算服务器构建区域模型、最小化通信负载并确保分布式数据分析应用的可扩展性。为此，我们采用近最优双边多对一匹配方法来处理Edge-DemLearn中的组合约束，并求解以实现快速知识获取，同时优化资源分配及多服务器与设备间的关联。在真实数据集上的大量仿真结果证明了所提方法的有效性。
引用
@article{arxiv.2012.00425,
title = {Edge-assisted Democratized Learning Towards Federated Analytics},
author = {Shashi Raj Pandey and Minh N. H. Nguyen and Tri Nguyen Dang and Nguyen H. Tran and Kyi Thar and Zhu Han and Choong Seon Hong},
journal= {arXiv preprint arXiv:2012.00425},
year = {2021}
}
备注
Accepted for publication in IEEE Internet of Things Journal