联邦智能：当大型 AI 模型遇上联邦微调与网络边缘的协作推理
人工智能
2025-03-28 v1
摘要
大型人工智能 (AI) 模型在 various 应用场景中展现出惊人的能力，但由于数据隐私、计算资源和延迟等问题，在网络边缘部署面临重大挑战。本文探讨了联邦微调和协作推理技术，以促进大型 AI 模型在资源受限的无线网络中的实现。首先，讨论大型 AI 模型在特定领域的有前景的应用。随后，提出联邦微调方法，在网络边缘针对特定任务或环境对大型 AI 模型进行适应，有效解决通信开销问题并提高通信效率。这些方法遵循聚类、层次和异步范式，以有效应对隐私问题并消除数据孤岛。此外，为提高操作效率并降低延迟，开发了高效的模型协作推理框架，包括去中心化的水平协作、云-边-端的垂直协作以及多接入协作。随后，仿真结果表明，我们提出的方法在各种下游任务中有效降低了大型 AI 模型的微调损失。最后，概述了若干开放挑战和研究机遇。
引用
@article{arxiv.2503.21412,
title = {Federated Intelligence: When Large AI Models Meet Federated Fine-Tuning and Collaborative Reasoning at the Network Edge},
author = {Wanli Ni and Haofeng Sun and Huiqing Ao and Hui Tian},
journal= {arXiv preprint arXiv:2503.21412},
year = {2025}
}
备注
8 pages, 6 figures