基于时序侧信道评估深度神经网络中的用户隐私
密码学与安全
2024-02-20 v3 机器学习
摘要
近期深度学习(DL)在解决复杂现实任务方面的进展使其在实际应用中的广泛采用。然而,这一机遇伴随着显著的潜在风险,因为许多此类模型在各种应用中依赖隐私敏感数据进行训练,使其成为隐私侵犯的过度暴露的威胁面。此外,基于云的机器学习即服务(MLaaS)因其健壮的基础设施支持而被广泛使用,已将威胁面扩大到包含多种远程侧信道攻击。在本文中,我们首先识别并报告了DL实现中一种新颖的数据依赖时序侧信道泄露(称为类泄露,Class Leakage),其源于广泛使用的DL框架PyTorch中的非常数时间分支操作。我们进一步展示了一种实用的推理时攻击,其中具有用户权限且对MLaaS具有硬标签黑盒访问权限的对手可利用类泄露来损害MLaaS用户的隐私。DL模型易受成员推断攻击(MIA)的攻击,对手的目标是推断任何特定数据是否在模型训练中被使用。在本文中,作为一个独立的案例研究,我们展示了即便使用差分隐私(一种针对MIA的流行对策)保护的DL模型,仍易受利用类泄露的对手所实施的MIA攻击。我们开发了一种易于实现的对策,通过采用常数时间分支操作来缓解类泄露,并有助于减轻MIA。我们选择了两个标准基准图像分类数据集CIFAR-10和CIFAR-100来训练五个最先进的预训练DL模型,在具有Intel Xeon和Intel i7处理器的两种不同计算环境下验证我们的方法。
引用
@article{arxiv.2208.01113,
title = {On the Evaluation of User Privacy in Deep Neural Networks using Timing Side Channel},
author = {Shubhi Shukla and Manaar Alam and Sarani Bhattacharya and Debdeep Mukhopadhyay and Pabitra Mitra},
journal= {arXiv preprint arXiv:2208.01113},
year = {2024}
}
备注
15 pages, 20 figures