具有共享嵌入的联邦图网络
机器学习
2022-10-06 v1 人工智能
摘要
如今，用户隐私正成为系统开发者无法回避的问题，尤其是对于那些数据可轻易通过互联网传输的 Web 应用而言。值得庆幸的是，联邦学习提出了一种创新方法，可在数据保留在本地存储的情况下使用分布式设备训练模型。然而，与通用神经网络不同，尽管基于图的网络在分类任务和先进推荐系统中取得了巨大成功，但其高性能依赖于图结构所提供的丰富上下文，而当数据属性不完整时该上下文十分脆弱。因此，在为基于图的网络实施联邦学习时，后者成为一个现实问题。鉴于数据嵌入是不同空间中的表示，我们提出了具有共享嵌入的联邦图网络（Feras），其使用共享嵌入数据训练网络并避免原始数据的直接共享。本文给出了 Feras 收敛性的严谨理论证明。在多个数据集（PPI、Flickr、Reddit）上的实验表明了 Feras 在集中式学习中的高效性。最后，Feras 使得当前基于图的模型能够在联邦学习框架中因隐私考量而得以训练。
引用
@article{arxiv.2210.01803,
title = {Federated Graph-based Networks with Shared Embedding},
author = {Tianyi Yu and Pei Lai and Fei Teng},
journal= {arXiv preprint arXiv:2210.01803},
year = {2022}
}
备注
10 pages, 5 figures