当生成式AI遇上边缘智能：迈向集成微调与推理
分布式、并行与集群计算
2024-01-08 v1 机器学习
摘要
高性能生成式人工智能（GAI）代表了计算智能的最新演进，而未来6G网络的福音也使边缘智能（EI）充满发展潜力。GAI与EI的必然相遇可以释放新的机遇，其中GAI基于海量计算资源和大规模无标签语料库的预训练可以为EI提供强大的基础知识，而EI可以利用碎片化的计算资源为GAI聚合个性化知识。然而，自然矛盾的特征对直接知识共享提出了重大挑战。为了解决这个问题，本文提出了面向GAI的综合网络（GaisNet），一种协作的云-边-端智能框架，通过无数据知识中继来缓冲矛盾，其中双向知识流实现了GAI的良性循环模型微调和任务推理，实现了GAI与EI的互惠共生，无缝融合和协同进化。实验结果证明了所提机制的有效性。最后，我们讨论了GAI与EI交互中的未来挑战和方向。
引用
@article{arxiv.2401.02668,
title = {Towards Integrated Fine-tuning and Inference when Generative AI meets Edge Intelligence},
author = {Ning Chen and Zhipeng Cheng and Xuwei Fan and Xiaoyu Xia and Lianfen Huang},
journal= {arXiv preprint arXiv:2401.02668},
year = {2024}
}
备注
11 pages, 8 figures, and 5 tables