SafeSplit：一种针对分割学习中客户端后门攻击的新型防御（完整版）

分割学习（SL）是一种分布式深度学习方法，使多个客户端和服务器能够在一个共享的深度神经网络（DNN）上进行协作训练和推理，而无需客户端共享其私有本地数据。DNN 在 SL 中被划分，大部分层驻留在服务器上，少数初始层和输入在客户端。这种配置允许资源受限的客户端参与训练和推理。然而，分布式架构使 SL 暴露于后门攻击，恶意客户端可以操纵本地数据集以改变 DNN 的行为。来自联邦学习等其他分布式框架的现有防御不适用，并且缺乏专门为 SL 设计的有效后门防御。我们提出了 SafeSplit，这是针对分割学习（SL）中客户端后门攻击的首个防御。SafeSplit 使服务器能够在客户端训练完成后，通过采用循环后向分析来检测并过滤掉恶意客户端行为，迭代地回退到发现受检模型为良性的已训练检查点。它使用双重分析来识别客户端引起的变化并检测中毒模型。首先，频域中的静态分析测量服务器端层参数的差异。其次，动态分析引入了一种新颖的旋转距离度量，用于评估训练期间服务器层参数的取向偏移。我们在各种数据分布、客户端数量和攻击场景下的综合评估表明，这种双重分析在缓解后门攻击的同时保持模型效用方面具有高效性。