FedHypeVAE: 基于 Hypernetwork 生成的条件 VAE 的联邦学习用于差分隐私嵌入共享
机器学习
2026-01-05 v1 人工智能
计算机视觉与模式识别
摘要
联邦数据共享承诺在不集中原始数据的前提下提供实用性，但现有的嵌入级生成器在 non-IID client 异构性方面受限，且对梯度泄露提供有限的形式性保护。我们提出 FedHypeVAE，这是一种差分隐私的、由 hypernetwork 生成的条件 VAE 框架，用于跨去中心化客户合成嵌入级数据。基于条件 VAE 主干结构，我们用 client-aware decoders 和 class-conditional priors 替代单一全局 decoder 和固定 latent prior，这些由来自私有、可训练 client codes 的共享 hypernetwork 生成。这一双层设计在生成层而非下游模型方面实现了 personalized，同时将本地数据与通信参数解耦。共享 hypernetwork 在差分隐私下进行优化，确保只有 noise-perturbed、clipped 梯度跨客户端聚合。在训练之后，neutral meta-code 启用了 domain agnostic synthesis，而混合 meta-codes 提供可控的 multi-domain coverage。FedHypeVAE 在生成器层面统一了 personalized、privacy 和 distribution alignment，为联邦环境中的隐私保护数据合成奠定了原则性基础。代码: github.com/sunnyinAI/FedHypeVAE
关键词
引用
@article{arxiv.2601.00785,
title = {FedHypeVAE: Federated Learning with Hypernetwork Generated Conditional VAEs for Differentially Private Embedding Sharing},
author = {Sunny Gupta and Amit Sethi},
journal= {arXiv preprint arXiv:2601.00785},
year = {2026}
}
备注
10 pages, 1 figures, Accepted at AAI'26