一种面向普适计算的联邦学习聚合算法：评估与比较

普适计算推动了在我们的生活空间中安装互联设备以提供服务的进程。近期两项重要发展获得了显著势头：边缘资源的高级利用以及机器学习技术面向工程应用的集成。这一演进带来了重大挑战，特别是关于沿边到云连续体合理分布计算元素的问题。对此，联邦学习近期被提出用于边缘端的分布式模型训练。该方法的原则是聚合在分布式客户端上学习的模型以获得新的、更具通用性的模型。所得模型随后被重新分发给客户端以进一步训练。迄今为止，最流行的联邦学习算法使用模型参数的坐标级平均进行聚合。然而，已表明该方法不适用于数据非独立同分布（non-iid）的异构环境。这直接对应于某些普适计算场景，其中设备与用户的异构性以泛化与个性化的双重目标对机器学习提出挑战。在本文中，我们提出一种称为 FedDist 的新型聚合算法，它能够通过识别客户端间特定神经元的不相似性来修改其模型架构（此处为深度神经网络）。这可在不影响泛化的前提下考虑客户端的特异性。此外，我们定义了一种完整方法以兼顾泛化与个性化来现实地评估联邦学习。利用该方法，FedDist 在智能手机人类活动识别这一普适领域上与三种最先进联邦学习算法进行了广泛测试与比较。