二值化分割学习以增强数据隐私并降低计算量
机器学习
2022-06-13 v1 密码学与安全
摘要
分割学习（SL）通过允许客户端与服务器协作训练深度学习模型而不共享原始数据，从而实现数据隐私保护。然而，SL 仍存在诸如潜在数据隐私泄露以及客户端计算量高等局限。在本研究中，我们提出对 SL 本地层进行二值化，以加快计算（在移动设备的训练与推理阶段前向传播时间最多减少 17.5 倍）并降低内存使用（内存与带宽需求最多减少 32 倍）。更重要的是，二值化 SL（B-SL）模型仅以微小的模型精度下降为代价，便可减少 SL smashed data 的隐私泄露。为进一步增强隐私保护，我们还提出了两种新方法：1）使用额外局部泄露损失进行训练；2）应用差分隐私，二者可分别或同时集成到 B-SL 模型中。使用不同数据集的实验结果证实了 B-SL 模型相较于若干基准模型的优势。B-SL 模型针对特征空间劫持攻击（FSHA）的有效性也得到了说明。我们的结果表明，B-SL 模型对于具有高通隐私保护需求的轻量级 IoT/移动应用（如移动医疗应用）颇具前景。
引用
@article{arxiv.2206.04864,
title = {Binarizing Split Learning for Data Privacy Enhancement and Computation Reduction},
author = {Ngoc Duy Pham and Alsharif Abuadbba and Yansong Gao and Tran Khoa Phan and Naveen Chilamkurti},
journal= {arXiv preprint arXiv:2206.04864},
year = {2022}
}