分割而非劫持：防止分割学习中的特征空间劫持攻击
密码学与安全
2024-04-16 v1 人工智能
摘要
机器学习(ML)的普及使得敏感数据的隐私比以往任何时候都更加重要。像分割学习(SL)这样的协作学习技术旨在保护客户端数据的同时增强ML过程。尽管有前景，但SL已被证明容易受到大量攻击，从而引发对其数据隐私有效性的担忧。在这项工作中，我们引入了一种结合SL和函数秘密共享(FSS)的混合方法，以确保客户端数据隐私。客户端在将激活图发送到服务器之前添加一个随机掩码。服务器无法访问原始函数，而是使用FSS生成的份额进行工作。因此，在前向和后向传播过程中，服务器无法从激活图重建客户端的原始数据。此外，通过视觉可逆性，我们证明当使用FSS时，服务器无法从激活图重建原始图像数据。与其他基于SL的方法相比，它通过减少隐私泄露来增强隐私，因为其他方法中服务器可以访问客户端输入信息。我们的方法还确保了对特征空间劫持攻击的安全性，保护敏感信息免受潜在操纵。我们的协议产生了有希望的结果，与使用FSS但没有SL的相同模型相比，通信开销减少了2倍以上，训练时间减少了7倍以上。此外，我们表明我们的方法实现了>96%的准确率，并且与明文模型相当。
引用
@article{arxiv.2404.09265,
title = {Make Split, not Hijack: Preventing Feature-Space Hijacking Attacks in Split Learning},
author = {Tanveer Khan and Mindaugas Budzys and Antonis Michalas},
journal= {arXiv preprint arXiv:2404.09265},
year = {2024}
}
备注
Accepted In Proceedings of the 29th ACM Symposium on Access Control Models and Technologies (SACMAT '24)