United We Defend: 联合防御性成员推断在联邦学习中的防御

成员推断攻击（MIA）能够确定特定数据点是否包含在目标模型的训练集中，已成为联邦学习（FL）中严重威胁。不幸的是，通常独立应用于 FL 中每个客户端的现有 MIA 防御措施对利用训练过程中时间信息来推断成员身份的强大轨迹-based MIA 有效性不足。在本文中，我们探讨一种新的 FL 防御场景，其中仅防御子集客户端，同时考虑不同隐私需求和隐私-效用权衡，以及一种协作防御模式，其中客户端合作以减轻成员隐私泄露。为此，我们引入CoFedMID，一个针对 FL 中 MIA 的协作防御框架，该框架限制本地模型对训练样本的记忆，并通过防御者联盟增强隐私保护和模型效用。具体而言，CoFedMID 包括三个模块：用于选择性本地训练样本的类别引导分区模块、用于回收贡献样本并防止其过度自信的效用感知补偿模块，以及注入用于在联盟级别取消的客户端更新的聚合中性扰动模块。在三个数据集上进行的大量实验表明，我们的防御框架显著降低了七种 MIA 的性能，同时仅造成小的效用损失。这些结果在各种防御设置下均得到一致验证。