基于共效用的安全且隐私保护的联邦学习

联邦学习的去中心化特性（通常利用边缘设备的算力）使其易受针对隐私与安全的攻击。对参与节点而言，隐私风险在于其在私有数据上计算的模型更新在发送给模型管理者时，可能泄露这些私有数据的信息。更为明显的是安全攻击，即一个或多个恶意节点返回错误的模型更新，以破坏学习过程并导致学到错误的模型。本文构建了一个联邦学习框架，为参与节点提供隐私保护，并抵御拜占庭攻击与投毒攻击。我们的框架由若干协议组成，通过不可关联匿名性为参与节点提供强隐私保护，并基于共效用（co-utility）属性在理性上可持续。换言之，任何理性方都没有偏离所提协议的动机。我们利用共效用的概念构建了一个去中心化的共效用声誉管理系统，为各方遵守协议提供激励。与通过差分隐私进行隐私保护不同，我们的方法保留模型更新的值，从而保持普通联邦学习的精度；与通过更新聚合进行隐私保护不同，我们的方法保留了检测不良模型更新的能力，同时与基于同态加密的方法相比大幅降低了计算开销。