MAUI:联邦迁移学习中私有客户端数据的重构
密码学与安全
2025-09-16 v1
摘要
近期的联邦学习(FL)研究表明,利用迁移学习在平衡FL与集中式学习收益方面具有实用性。在此setting下,联邦训练发生在通过常规训练达到稳定点之后。全局模型权重首先在公共数据集上中心预训练,然后仅在客户端上对模型的最后几层(分类头)进行微调。在此scenario下,现有的联邦学习数据重构攻击(DRA)存在两个关键弱点:首先,来自初始模型层的强输入相关梯度信息从未被共享,显著降低了重构精度;其次,服务器对模型结构或参数进行高度特定、手工操控的DRA(例如全零权重层、恒等映射以及权重模式相同的所有行)容易被主动客户端检测到。改进于此,我们提出MAUI,这是一种不要求对模型架构或权重进行明显操控的 stealthy DRA,仅依赖于分类头的梯度。MAUI首先从分类头的梯度中提取输入batch的“robust”特征表示,随后将这些表示反向转换为原始输入。我们在CIFAR10和ImageNet数据集上报告了在各种模型架构(包括卷积网络CNN、VGG11、ResNet18/50、ShuffleNet-V2和Vision Transformer ViT B-32)上的高精度重构,无论batch size如何。MAUI在重构质量上显著优于先前的DRA,实现PSNR提升40-120%。
引用
@article{arxiv.2509.11451,
title = {MAUI: Reconstructing Private Client Data in Federated Transfer Learning},
author = {Ahaan Dabholkar and Atul Sharma and Z. Berkay Celik and Saurabh Bagchi},
journal= {arXiv preprint arXiv:2509.11451},
year = {2025}
}