Corella：一种基于相关查询的私有多服务器学习方法

机器学习算法在移动设备上的新兴应用促使我们将训练模型或部署已训练模型的计算任务卸载到云端或网络边缘。该设置中的主要挑战之一是保证客户端数据的隐私。文献中已提出多种保护隐私的方法，包括（i）向客户端数据添加噪声，这会降低结果的精度；（ii）使用安全多方计算（MPC），其需要在计算节点之间或与客户端之间进行大量通信；（iii）依赖同态加密（HE）方法，这会显著增加服务器的计算负载。在本文中，我们提出 $\textit{Corella}$ 作为一种保护数据隐私的替代方法。所提方案依赖于一组服务器，其中至多 $T \in \mathbb{N}$ 个可能串谋，每个服务器运行一个学习模型（例如深度神经网络）。每个服务器被输入添加了独立于用户数据的 $\textit{强}$ 噪声的客户端数据。噪声的方差被设为足够大，以使向任意至多 $T$ 个服务器的子集的信息泄露在信息论上可忽略。另一方面，不同服务器所加噪声是 $\textit{相关的}$。查询间的这种相关性使得运行在不同服务器上的模型参数可被 $\textit{训练}$，从而客户端能够通过组合各服务器输出来抵消噪声贡献，并以高精度和微小计算代价恢复最终结果。针对不同数据集的仿真结果展示了所提方法在分类（使用深度神经网络）与自编码器（分别作为监督与无监督学习任务）上的精度。