面向大语言模型的抗干扰分片联邦学习框架(R-SFLLM)
机器学习
2025-10-28 v3 人工智能
信号处理
摘要
分片联邦学习(SFL)是分布式机器学习(ML)中的一种计算高效范式，其中大型ML模型的组件被外包给远程服务器。SFL在无线网络中部署时，传输的模型参数易受到对抗性干扰，可能危及学习过程。这一问题在大语言模型(LLMs)和视觉语言模型(VLMs)的嵌入参数中尤为突出，这些参数是学习领域理解的关键特征向量。本文对干扰嵌入在SFL中的影响提供了严格的见解，通过推导ML训练损失发散表达式，表明其上界由均方误差(MSE)决定。基于此分析，开发了一个针对LLMs的抗干扰SFL框架(R-SFLLM)，在无线网络中实现。R-SFLLM利用无线探测数据收集有关干扰到达方向(DoAs)的信息，以制定新的感知辅助反干扰策略，同时联合优化波束赋形、用户调度和资源分配。广泛的实验使用LLMs和VLMs表明，R-SFLLM在various自然语言处理(NLP)和计算机视觉(CV)任务、数据集和模态方面均实现接近基准的性能。该方法进一步引入了对抗训练组件，通过受控噪声暴露显著增强模型对训练期间扰动参数的韧性。结果表明，噪声敏感性更强的模型(如RoBERTa)从此功能中受益，尤其是在资源分配不公平时。还表明，最坏情况的干扰转化为最坏情况的模型结果，因而需要干扰抗性SFL协议。
引用
@article{arxiv.2407.11654,
title = {R-SFLLM: Jamming Resilient Framework for Split Federated Learning with Large Language Models},
author = {Aladin Djuhera and Vlad C. Andrei and Xinyang Li and Ullrich J. Mönich and Holger Boche and Walid Saad},
journal= {arXiv preprint arXiv:2407.11654},
year = {2025}
}