通过凸包安全聚合在双曲空间中的联邦分类
机器学习
2024-01-18 v2 密码学与安全
分布式、并行与集群计算
摘要
层次化与树状数据集出现在许多应用中,包括语言处理、图数据挖掘、系统发育与基因组学。已知树状数据无法以较小失真嵌入到有限维欧氏空间中。该问题可通过使用双曲空间来缓解。当此类数据还必须在分布式与私有化设置中处理时,就有必要使用专为双曲空间定制的新联邦学习方法。作为双曲空间联邦学习领域发展的初步步骤,我们提出了首个已知的双曲空间联邦分类方法。我们的贡献如下。首先,我们开发了Poincaré圆盘凸SVM分类器的分布式版本。在此设置中,从客户端传递到全局分类器的是各客户端数据中存在的簇的凸包。其次,为避免标签切换问题,我们引入了一种基于所谓整数序列的数论方法进行标签恢复。第三,我们计算双曲空间中凸包的复杂度以评估数据泄露程度;同时,为限制凸包的通信成本,我们提出了一种结合类Reed-Solomon编码的Poincaré圆盘新量化方法。第四,在服务器端,我们引入了一种基于平衡图划分的客户端凸包聚合新方法。我们在一组多样化数据集上测试了我们的方法,包括分布在具有严格隐私约束的不同存储库中的来自不同患者的层次化单细胞RNA-seq数据。我们的方法分类准确率比其欧氏对应方法最高高出约,证明了在双曲空间中进行隐私保护学习的重要性。
引用
@article{arxiv.2308.06895,
title = {Federated Classification in Hyperbolic Spaces via Secure Aggregation of Convex Hulls},
author = {Saurav Prakash and Jin Sima and Chao Pan and Eli Chien and Olgica Milenkovic},
journal= {arXiv preprint arXiv:2308.06895},
year = {2024}
}
备注
Published in the Transactions on Machine Learning Research (TMLR). Link: https://openreview.net/forum?id=umggDfMHha