CompLeak：深度学习模型压缩加剧隐私泄露
密码学与安全
2025-07-24 v1 人工智能
摘要
模型压缩对于最小化深度学习（DL）模型（包括近期的大语言模型（LLMs）等基础模型）的内存存储和加速推理至关重要。用户可以根据其资源和预算访问不同的压缩模型版本。然而，尽管现有的压缩操作主要侧重于优化资源效率与模型性能之间的权衡，但压缩引入的隐私风险却仍被忽视且未被充分理解。在本工作中，通过成员推理攻击（MIA）的视角，我们提出了 CompLeak，这是首个隐私风险评估框架，用于审查三种广泛使用的压缩配置，即 Google 的 TensorFlow-Lite（TF-Lite）和 Facebook 的 PyTorch Mobile 商业模型压缩框架所支持的剪枝、量化和权重聚类。根据对压缩模型和原始模型可用的访问数量，CompLeak 具有三种变体。CompLeakNR 首先采用现有的 MIA 方法攻击单个压缩模型，并发现不同的压缩模型对成员和非成员的影响不同。当原始模型和一个压缩模型可用时，CompLeakSR 利用压缩模型作为原始模型的参考，并通过结合来自两个模型的元信息（例如，置信度向量）来揭示更多隐私。当多个压缩模型可用且无论是否可以访问原始模型时，CompLeakMR 创新地利用来自多个压缩版本的隐私泄露信息，以显著加剧整体的隐私泄露。我们在七种不同的模型架构（从 ResNet 到 BERT 和 GPT-2 等基础模型）以及六个图像和文本基准数据集上进行了大量实验。
引用
@article{arxiv.2507.16872,
title = {CompLeak: Deep Learning Model Compression Exacerbates Privacy Leakage},
author = {Na Li and Yansong Gao and Hongsheng Hu and Boyu Kuang and Anmin Fu},
journal= {arXiv preprint arXiv:2507.16872},
year = {2025}
}