Dullahan：针对无标签共享分割学习的隐蔽后门攻击

作为一种旨在降低客户端计算成本并实现数据可用性的新型隐私保护范式，分割学习在包括智慧医疗和智慧交通在内的各个领域引起了广泛关注并催生了广泛的应用。尽管最近的研究主要集中在解决分割学习中的隐私泄露问题（如推理攻击和数据重建），但对分割学习框架内安全问题（例如后门攻击）的探索相对有限。然而，分割学习语境下的安全漏洞极具威胁性，并可能引发严重的安全后果，例如人脸识别模型中的非法冒充。因此，在本文中，我们提出了一种针对无标签共享分割学习架构的隐蔽后门攻击策略（即 SBAT），揭示了分割学习固有的安全漏洞。我们假设服务器端存在一个潜在攻击者，旨在向训练模型中注入后门，同时探讨了两种场景：一种已知客户端网络架构，另一种未知网络架构。与操纵训练数据和标签的传统后门攻击方法不同，我们通过将触发器嵌入注入服务器网络来构造性地实施后门攻击。具体而言，我们的 SBAT 通过在训练期间避免修改任何中间参数（例如梯度）并转而在训练后执行所有恶意操作，实现了更高水平的攻击隐蔽性。