U 形并行拆分学习的最优资源分配
机器学习
2023-10-10 v3
摘要
拆分学习（SL）已成为一种在不泄露数据所有者原始数据样本的情况下进行模型训练的有前景的方法。然而，传统 SL 不可避免地泄露标签隐私，因为尾部模型（含最后几层）须置于服务器端。为克服此限制，一个有前景的解决方案是利用 U 形架构将早期层与最后层均留在用户侧。本文提出一种新颖的并行 U 形拆分学习，并设计最优资源优化方案以提升边缘网络性能。在所提框架中，多个用户与边缘服务器通信进行 SL。我们分析训练过程中各客户端的端到端延迟，并设计一种高效资源分配算法 LSCRA，其可求得最优计算资源分配与拆分层。实验结果表明了 LSCRA 的有效性，且 U 形并行拆分学习在保护标签隐私的同时可取得与其他 SL 基线相似的性能。索引词：U 形网络，拆分学习，标签隐私，资源分配，5G/6G 边缘网络。
引用
@article{arxiv.2308.08896,
title = {Optimal Resource Allocation for U-Shaped Parallel Split Learning},
author = {Song Lyu and Zheng Lin and Guanqiao Qu and Xianhao Chen and Xiaoxia Huang and Pan Li},
journal= {arXiv preprint arXiv:2308.08896},
year = {2023}
}
备注
6 pages, 6 figures