CorrFL:面向异构物联网环境中节点不可用问题的基于相关性的神经网络架构
机器学习
2023-07-25 v1 分布式、并行与集群计算
网络与互联网体系结构
摘要
联邦学习(FL)范式面临若干限制其在真实世界环境中应用的挑战。这些挑战包括本地模型架构的异构性,以及分布式物联网(IoT)节点因连接问题而不可用。这些因素提出了“可用模型如何填补不可用模型的训练缺口?”这一问题。该问题被称为“倾斜联邦学习(Oblique Federated Learning)”问题。在所研究的环境(包含负责预测 CO2 浓度的分布式 IoT 节点)中遇到了此问题。本文提出受表示学习领域启发的基于相关性的 FL(CorrFL)方法来解决该问题。CorrFL 将各种模型权重投影到公共潜在空间以应对模型异构性。其损失函数在模型缺失时最小化重构损失,并最大化生成模型之间的相关性。后一因素至关重要,因为 IoT 设备的特征空间存在交集。CorrFL 在一个实际用例上评估,该用例涉及一个 IoT 设备不可用以及反映占用情况的高活动水平。针对新环境从可用设备训练得到的不可用 IoT 设备的 CorrFL 生成模型,与在不同用例上训练的基准模型进行比较。评估标准结合了预测的平均绝对误差(MAE)以及交换数据量对预测性能提升的影响。通过全面的实验流程,CorrFL 模型在各项标准上均优于基准模型。
引用
@article{arxiv.2307.12149,
title = {CorrFL: Correlation-Based Neural Network Architecture for Unavailability Concerns in a Heterogeneous IoT Environment},
author = {Ibrahim Shaer and Abdallah Shami},
journal= {arXiv preprint arXiv:2307.12149},
year = {2023}
}
备注
17 pages, 12 figures, IEEE Transactions on Network and Service Management