基于 Fisher 近似香农信息分析的分离推断隐私泄露量化
密码学与安全
2025-11-19 v2
摘要
分离推断（SI）将深度神经网络划分为分布式子模型，使协作学习可以在不直接共享原始数据的情况下进行。然而，SI 仍然容易受到数据重构攻击（DRAs）的威胁，攻击者可利用暴露的碎片数据恢复私有输入。尽管在攻击-防御方法方面取得了显著进展，但对隐私风险的根本性量化仍不完善。本文建立了一个用于 SI 隐私泄露的信息论框架，定义泄露为对方的确定性，并推导出平均情况和最坏情况的错误下界。我们进一步引入 Fisher 近似香农信息（FSInfo），这是一种基于 Fisher 信息（FI）的新型隐私指标，使我们能够对隐私泄露进行可操作且可计算的量化。基于该指标，我们开发了 FSInfoGuard 防御机制，实现了强大的隐私-效用权衡。我们的实证研究表明，FSInfo 在不同数据集、模型和防御强度下都是有效的隐私指标，能够提供准确的隐私估计，支持设计防御方法，以在隐私保护和效用保存方面超越现有方法。代码已在 https://github.com/SASA-cloud/FSInfo 上提供。
关键词
引用
@article{arxiv.2504.10016,
title = {Quantifying Privacy Leakage in Split Inference via Fisher-Approximated Shannon Information Analysis},
author = {Ruijun Deng and Zhihui Lu and Qiang Duan and Shijing Hu},
journal= {arXiv preprint arXiv:2504.10016},
year = {2025}
}
备注
13pages, 12 figures