抵御属性推断、数据重建与特征空间劫持攻击的安全拆分学习
机器学习
2023-04-20 v1 密码学与安全
摘要
深度神经网络的拆分学习(SplitNN)为来自不同背景、持有垂直划分特征的客方与主机方基于共同利益联合学习提供了有前景的方案。然而,SplitNN 为对抗参与方创造了新的攻击面,阻碍了其在实际中的应用。通过研究高威胁攻击(包括属性推断、数据重建和特征劫持攻击)的对抗影响,我们识别出 SplitNN 的底层漏洞并提出对策。为防范潜在威胁并确保 SplitNN 的学习保证,我们设计了一个客方与主机间信息交换的隐私保护隧道。其直觉是以可控的统一方案扰动各方向的知识传播。为此,我们提出名为 R3eLU 的新激活函数,在向前与向后传播中分别将私有 smashed 数据与部分损失转化为随机化响应。我们首次尝试保护拆分学习抵御三种威胁性攻击,并提出细粒度隐私预算分配方案。分析证明我们的隐私保护 SplitNN 方案提供了紧致隐私预算,而实验结果表明我们的方案在大多数情况下优于现有方案,并在防御与模型可用性间取得良好权衡。
引用
@article{arxiv.2304.09515,
title = {Secure Split Learning against Property Inference, Data Reconstruction, and Feature Space Hijacking Attacks},
author = {Yunlong Mao and Zexi Xin and Zhenyu Li and Jue Hong and Qingyou Yang and Sheng Zhong},
journal= {arXiv preprint arXiv:2304.09515},
year = {2023}
}
备注
23 pages