CCFC++：通过特征去相关增强联邦聚类
机器学习
2024-02-21 v1
摘要
在联邦聚类中，多个持有数据的客户端在不交换原始数据的情况下协作地对数据进行分组。该领域通过与对比学习结合取得了显著进展，以聚类对比联邦聚类（Cluster-Contrastive Federated Clustering, CCFC）为代表。然而，CCFC 受限于客户端间的数据异构性，导致性能不佳且鲁棒性差。本研究进行了实证和理论分析，以理解异构数据对 CCFC 的影响。研究结果表明，增加的数据异构性加剧了 CCFC 中的维度坍塌，表现为学习到的表示在多个维度上的相关性增加。为解决这一问题，我们向 CCFC 引入了去相关正则化器。得益于该正则化器，改进后的方法有效减轻了数据异构性的不利影响，并实现了卓越的性能，这体现在 NMI 分数的显著提高上，在最显著的情况下增益高达 0.32。
引用
@article{arxiv.2402.12852,
title = {CCFC++: Enhancing Federated Clustering through Feature Decorrelation},
author = {Jie Yan and Jing Liu and Yi-Zi Ning and Zhong-Yuan Zhang},
journal= {arXiv preprint arXiv:2402.12852},
year = {2024}
}