用于隐私保护移动分析的混合深度学习架构

物联网设备和应用正被部署于我们的家庭和工作场所。这些设备通常依赖持续的数据采集来为机器学习模型提供输入。然而，这种方法引入了若干隐私和效率挑战，因为服务运营商可能会对可用数据执行非预期的推断。近期，边缘处理的进展为在数据源端进行更高效且更具隐私性的简单任务和轻量级模型数据处理铺平了道路，但对于更大、更复杂的模型而言这仍是一个挑战。在本文中，我们提出了一种混合方法，用于拆分大型复杂的深度神经网络以实现协同的隐私保护分析。为此，我们不让整个运算在云端执行，而是让物联网设备运行神经网络的初始层，然后将输出发送至云端以供剩余层使用并产生最终结果。为了确保用户设备不包含除主任务所需之外的任何额外信息，并防止对数据进行任何二次推断，我们引入了 Siamese fine-tuning。我们基于暴露给云服务的信息评估了该方法的隐私收益。我们还评估了现代手机上不同层的本地推断成本。我们的评估表明，通过使用 Siamese fine-tuning 并付出少量的处理成本，我们可以大幅降低个人数据中不必要的、潜在敏感的信息水平，从而在效用、隐私和性能之间实现理想的权衡。