XNN：缓解云端深度学习中身份泄露的范式转变
密码学与安全
2024-08-12 v1 计算机视觉与模式识别
摘要
在基于云端的深度学习领域，外部计算资源的需求与隐私 concerns 并存，尤其是身份泄露问题。为此，我们提出XNN和XNN-d两种先进方法，通过引入随机扰动来融合神经网络特征，实现实用性与隐私性之间的和谐平衡。XNN用于训练阶段，巧妙地将随机置换与矩阵乘法技术融合，以扰乱特征图，从而在不损害训练完整性的前提下有效屏蔽私有数据。与此同时，XNN-d用于推理阶段，采用对抗训练技术集成生成对抗噪声，这种技术有效抵御旨在提取身份信息的黑盒访问攻击，同时一个提炼后的人脸识别网络能够处理被扰动的特征，确保准确识别。我们的评估表明，XNN在减少身份泄露方面显著优于现有方法，同时保持高模型准确率。
引用
@article{arxiv.2408.04974,
title = {XNN: Paradigm Shift in Mitigating Identity Leakage within Cloud-Enabled Deep Learning},
author = {Kaixin Liu and Huixin Xiong and Bingyu Duan and Zexuan Cheng and Xinyu Zhou and Wanqian Zhang and Xiangyu Zhang},
journal= {arXiv preprint arXiv:2408.04974},
year = {2024}
}