迈向基于图的隐私保护联邦学习:ModelNet——一个基于 ResNet 的模型分类数据集
机器学习
2025-06-13 v2
摘要
联邦学习(Federated Learning, FL)已成为一种强大的范式,能够在保留数据本地性的同时跨分布式数据源训练机器学习模型。然而,本地数据的隐私始终是一个核心问题,在近期关于 FL 机制的研究中受到了广泛关注。此外,基准测试中缺乏领域异质性和客户端特定隔离,仍是进行严格评估的关键瓶颈。本文引入了 ModelNet,一种新颖的图像分类数据集,由从预训练 ResNet50 模型提取的嵌入构建而成。首先,我们考虑三种领域异质性(同质、异质和随机),将 CIFAR100 数据集修改为三个客户端特定变体。随后,我们在预训练 ResNet50 模型上训练所有三个变体的每个客户端特定子集,以保存模型参数。除了多领域图像数据外,我们提出了一种新假设,定义能够访问匿名化模型参数的 FL 算法,以比现有方法更有效地保护本地隐私。ModelNet 旨在通过在主干中结合非独立同分布(non-IID)数据分布和客户端多样性设计原则,为传统和未来的图驱动 FL 算法模拟真实的 FL 设置。这三个变体分别为 ModelNet-S、ModelNet-D 和 ModelNet-R,分别基于同质、异质和随机数据设置。据我们所知,我们是首个提出跨环境客户端特定 FL 数据集及其基于图变体的团队。基于领域偏移和聚合策略的大量实验表明了上述变体的有效性,使其成为经典和基于图的 FL 研究的实用基准。该数据集及相关代码已在线提供。
引用
@article{arxiv.2506.00476,
title = {Towards Graph-Based Privacy-Preserving Federated Learning: ModelNet -- A ResNet-based Model Classification Dataset},
author = {Abhisek Ray and Lukas Esterle},
journal= {arXiv preprint arXiv:2506.00476},
year = {2025}
}
备注
8 pages, 8 figures