边缘设备上计算机视觉模型的去中心化隐私保护联邦学习

机器学习模型的协作训练伴随着共享敏感或私有数据的风险。联邦学习提供了一种集体训练单个全局模型的方法，无需共享客户端数据，只需共享每个客户端本地模型的更新参数。然后使用中央服务器聚合来自所有客户端的参数，并将聚合后的模型重新分发给客户端。最近的研究发现，即使在这种情况下，仅使用模型参数的信息也可以重建私有数据。当前缓解此问题的努力主要集中在降低服务器端的隐私风险上，假设其他客户端不会恶意行事。在这项工作中，我们分析了各种针对神经网络、旨在提高客户端数据相对于服务器和其他客户端的隐私性的方法。其中一些方法包括同态加密、梯度压缩、梯度加噪，以及讨论可能使用的改进联邦学习系统，如分割学习、群体学习或完全加密模型。我们分析了梯度压缩和梯度加噪对用于分类的卷积神经网络准确性的负面影响。我们展示了在分割网络情况下数据重建的困难。我们还在用于边缘设备的NVIDIA Jetson TX2模块上实现了一个概念验证，并模拟了联邦学习过程。