FedWalk：具备差分隐私的通信高效联邦无监督节点嵌入
分布式、并行与集群计算
2022-06-02 v2 密码学与安全
机器学习
摘要
节点嵌入旨在将复杂图中的节点映射为低维表示。现实世界的大规模图与标注困难催生了无监督节点嵌入问题的广泛研究。然而，以往工作多在集中式设定下进行，即给定完整图。随着数据隐私意识的增强，仅知晓单个顶点及其邻居的数据持有者要求更强的隐私保护。本文引入FedWalk，一种基于随机游走的无监督节点嵌入算法，可在节点级可见性图上运行，原始图信息保留在本地。FedWalk旨在以数据隐私保护与极高通信效率提供具集中式竞争力的图表示能力。FedWalk实现了流行的联邦范式并包含三个模块。我们首先设计层次聚类树（HCT）构造器以提取各节点的结构特征。动态时间规整算法无缝处理不同节点间的结构异质性。基于所构造的HCT，我们进而设计随机游走生成器，其中设计序列编码器以保留隐私，并设计两跳邻居预测器以节省通信开销。生成的随机游走随后用于基于SkipGram模型更新节点嵌入。在两个大规模图上的大量实验表明，FedWalk取得了与集中式节点嵌入算法相当的表示能力，仅损失至多1.8%的Micro-F1分数与4.4%的Marco-F1分数，同时将每次游走的设备间通信降低约6.7倍。
引用
@article{arxiv.2205.15896,
title = {FedWalk: Communication Efficient Federated Unsupervised Node Embedding with Differential Privacy},
author = {Qiying Pan and Yifei Zhu},
journal= {arXiv preprint arXiv:2205.15896},
year = {2022}
}
备注
10 pages, 8 figures, to be published in the Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining