揭示联邦蒸馏中公共数据集使用导致的客户端隐私泄露

联邦蒸馏（FD）已成为一种流行的联邦训练框架，使客户端能够在无需共享私有数据的情况下协作训练模型。利用公共数据集进行知识共享的公共数据集辅助联邦蒸馏（PDA-FD）已被广泛采用。尽管与传统的联邦学习相比，PDA-FD增强了隐私性，但我们证明公共数据集的使用仍然对客户端的私有训练数据构成重大的隐私风险。本文首次对存在诚实但好奇的服务器情况下的PDA-FD进行了全面的隐私分析。我们表明，服务器可以利用客户端在公共数据集上的推理结果来提取两类关键的私有信息：私有训练数据集的标签分布和成员信息。为了量化这些漏洞，我们引入了两种专门为PDA-FD设置设计的新型攻击：标签分布推断攻击和基于似然比攻击（LiRA）的创新成员推断方法。通过对三个具有代表性的PDA-FD框架（FedMD、DS-FL和Cronus）的广泛评估，我们的攻击达到了最先进的性能，标签分布攻击达到了最小的KL散度，成员推断攻击在低假阳性率约束下保持了高真阳性率。我们的研究结果揭示了当前PDA-FD框架中存在的重大隐私风险，并强调了在协作学习系统中需要更强大的隐私保护机制。