针对差分隐私拆分学习的特征空间劫持攻击
密码学与安全
2022-01-17 v2 人工智能
摘要
拆分学习（split learning）与差分隐私（differential privacy）是日益具备潜力、可助力分布式数据集上隐私合规高级分析的技术。针对拆分学习的攻击是重要的评估工具，近期受到越来越多研究关注。本工作的贡献在于将一种近期提出的特征空间劫持攻击（FSHA）应用于增强了差分隐私（DP）的拆分神经网络学习过程，使用客户端现成的 DP 优化器。FSHA 攻击在任意设定的 DP epsilon 水平下均以低错误率实现客户端私有数据重建。我们还尝试以降维作为潜在的攻击风险缓解手段，并表明其可能在某种程度上有所帮助。我们讨论了差分隐私在此设定下为何不是有效保护的原因，并提及潜在的其他风险缓解方法。
引用
@article{arxiv.2201.04018,
title = {Feature Space Hijacking Attacks against Differentially Private Split Learning},
author = {Grzegorz Gawron and Philip Stubbings},
journal= {arXiv preprint arXiv:2201.04018},
year = {2022}
}
备注
To appear at the Third AAAI Workshop on Privacy-Preserving Artificial Intelligence (PPAI-22). (4 pages, short paper.)