贝叶斯容量作为联邦学习中重建攻击的度量
机器学习
2024-06-21 v1 人工智能
密码学与安全
信息论
math.IT
摘要
在机器学习社区中，重建攻击是主要关注的攻击类型，并且即使在以隐私保护为目的设计的联邦学习中也被发现。在联邦学习中，已经证明，了解机器学习架构的对手能够根据随机梯度下降过程中观察到的权重更新来推断训练元素的确切值。针对这些威胁，隐私社区推荐在随机梯度下降算法中使用差分隐私，称为DP-SGD。然而，DP尚未被正式确立为对抗重建攻击的有效对策。在本文中，我们使用定量信息流的信息论框架形式化了重建威胁模型。我们表明，与无穷阶Sibson互信息相关的贝叶斯容量，代表了DP-SGD算法对有兴趣执行重建攻击的对手的泄漏的紧致上界。我们提供了实证结果，证明了该度量在比较不同机制对抗重建威胁方面的有效性。
引用
@article{arxiv.2406.13569,
title = {Bayes' capacity as a measure for reconstruction attacks in federated learning},
author = {Sayan Biswas and Mark Dras and Pedro Faustini and Natasha Fernandes and Annabelle McIver and Catuscia Palamidessi and Parastoo Sadeghi},
journal= {arXiv preprint arXiv:2406.13569},
year = {2024}
}