面向太空计算网络的卫星联邦微调：为基础模型提供计算力
机器学习
2025-08-01 v3 分布式、并行与集群计算
网络与互联网体系结构
摘要
人工智能 (AI) 和低轨道 (LEO) 卫星的发展推动了大型遥感基础模型在各种下游任务中的应用。然而，直接下载这些模型进行地面微调受限于隐私顾虑和带宽限制。卫星联邦学习 (FL) 通过在卫星上直接进行模型微调而无需下载数据，提供了解決方案。然而，对于大型基础模型，卫星的计算能力不足以支持传统卫星 FL 框架下的有效 onboard 微调。为此，我们提出一种卫星-地面协作式联邦微调框架。该框架的关键在于如何合理分解和分配模型组件，以缓解 onboard 计算能力不足的问题。在微调期间，卫星与地面站或其他卫星交换中间结果，以完成前向传播和反向传播，这带来了由于太空传输网络特殊拓扑导致的通信挑战，如间歇性卫星-地面通信、短暂的卫星-地面通信窗口以及不稳定的星间链路 (ISL)。为减少传输延迟，我们进一步引入量身定制的通信策略，集成通信与计算资源。具体而言，我们提出了并行 intra-orbit 通信策略、面向拓扑的卫星-地面通信策略以及最小化延迟的 inter-orbit 通信策略，以降低太空通信成本。仿真结果表明，训练时间显著减少，约提高 33%。
引用
@article{arxiv.2504.10403,
title = {Satellite Federated Fine-Tuning for Foundation Models in Space Computing Power Networks},
author = {Yan Zhu and Jingyang Zhu and Ting Wang and Yuanming Shi and Chunxiao Jiang and Khaled Ben Letaief},
journal= {arXiv preprint arXiv:2504.10403},
year = {2025}
}