基于耦合张量火车分解的联邦学习
分布式、并行与集群计算
2024-03-06 v1
摘要
耦合张量分解（CTD）可以从各种应用的多模态数据中提取联合特征。它可用于具有数据保密性的联邦学习网络。联邦 CTD 通过共享公共特征并保留个体特征来实现数据隐私保护。然而，基于规范多向分解（CPD）的传统 CTD 方案可能存在计算效率低和通信成本高的问题。受高效张量火车分解的启发，我们提出了一种用于联邦学习的耦合张量火车（CTT）分解。分布式耦合多路数据被分解为一系列具有共享因子的张量火车。通过这种方式，我们可以在保持非耦合模式不同特征的同时提取耦合模式的公共特征。从而确保不同网络节点间信息的隐私保护。所提出的 CTT 方法针对两种基本网络结构进行了实例化，即主从网络和去中心化网络。在合成数据集和真实数据集上的实验结果表明，所提方案在计算效率和通信轮次方面均优于现有方法。在分类任务中，实验结果显示基于 CTT 的联邦学习取得了与集中式方法几乎相同的准确率性能。
引用
@article{arxiv.2403.02898,
title = {Federated Learning Using Coupled Tensor Train Decomposition},
author = {Xiangtao Zhang and Eleftherios Kofidis and Ce Zhu and Le Zhang and Yipeng Liu},
journal= {arXiv preprint arXiv:2403.02898},
year = {2024}
}