中文

通过基对齐与权重惩罚改进联邦关系数据建模

机器学习 2020-11-24 v1 人工智能

摘要

联邦学习(FL)近年来受到越来越多的关注。作为一种保护隐私的协作学习范式,它实现了更广泛的应用,尤其是计算机视觉与自然语言处理任务。然而,迄今为止关于关系数据(即知识图谱(KG))的联邦学习研究有限。本文提出了一种改进的图神经网络算法,用于在不同参与方之间的 KG 上执行联邦建模。具体而言,为应对固有的数据异构问题与算法收敛低效,我们提出一种名为 FedAlign 的新型优化算法,包含 1)用于客户端个性化的最优传输(OT),以及 2)用于加速收敛的权重约束。我们在多个广泛使用的数据集上进行了大量实验。实证结果表明,所提方法优于最先进的 FL 方法(如 FedAVG 和 FedProx),具有更好的收敛性。

关键词

引用

@article{arxiv.2011.11369,
  title  = {Improving Federated Relational Data Modeling via Basis Alignment and Weight Penalty},
  author = {Yilun Lin and Chaochao Chen and Cen Chen and Li Wang},
  journal= {arXiv preprint arXiv:2011.11369},
  year   = {2020}
}

备注

9 pages, 4 figures