ADEPT：个性化联邦无监督学习的层次贝叶斯方法
机器学习
2025-01-27 v3
摘要
客户端本地数据的统计异质性是联邦学习的一个重要特征，这激发了针对本地数据统计特性定制的个性化算法。尽管已有大量算法被提出用于个性化监督学习，但通过个性化无监督学习发现本地数据结构的研究较少。我们通过开发基于层次贝叶斯统计框架启发的优化准则的算法，启动了对此类个性化无监督学习的系统研究。我们开发了自适应算法，以发现利用有限的本地数据与协作信息之间的平衡。我们在两个无监督学习任务背景下进行此项工作：个性化降维和个性化扩散模型。我们为自适应算法开发了收敛性分析，阐明了对问题参数（如异质性、本地样本量）的依赖性。我们还为个性化扩散模型开发了一个理论框架，展示了即使在异质性条件下协作带来的益处。最后，我们使用合成数据和真实数据评估了所提出的算法，证明了尽管存在数据异质性，但通过协作诱导的个性化任务有效样本放大效应。
引用
@article{arxiv.2402.12537,
title = {ADEPT: Hierarchical Bayes Approach to Personalized Federated Unsupervised Learning},
author = {Kaan Ozkara and Bruce Huang and Ruida Zhou and Suhas Diggavi},
journal= {arXiv preprint arXiv:2402.12537},
year = {2025}
}