面向边缘化 AI 生成内容服务的双时间尺度模型缓存与资源分配
机器学习
2024-11-05 v1 人工智能
分布式、并行与集群计算
摘要
生成式 AI（GenAI）已成为一种变革性技术，使能够实现定制化和个性化的 AI 生成内容（AIGC）服务。本文关注边缘化 AIGC 服务 provisioning 挑战，这些挑战在文献中尚未充分探讨。此类服务需要执行具有数十亿参数的 GenAI 模型，给资源受限的无线边缘设备带来显著障碍。我们随后引入联合模型缓存与资源分配问题的表述，以平衡 AIGC 质量与延迟指标之间的权衡。通过实验，我们获得这些指标与 GenAI 模型所需计算资源之间的数学关系。随后，我们将表述分解为长时间尺度上的模型缓存子问题和短时间尺度上的资源分配子问题。由于待求解变量分别为离散与连续，我们采用双深度 Q 网络（DDQN）算法求解前者，提出基于扩散模型的深度确定性策略梯度（D3PG）算法求解后者。所提出的 D3PG 方法创造性地将扩散模型用作决策网络以确定最优资源分配决策。因此，我们将这两种学习方法集成到更广泛的双时间尺度深度强化学习（T2DRL）算法中，并通过比较数值仿真研究其性能。
引用
@article{arxiv.2411.01458,
title = {Two-Timescale Model Caching and Resource Allocation for Edge-Enabled AI-Generated Content Services},
author = {Zhang Liu and Hongyang Du and Xiangwang Hou and Lianfen Huang and Seyyedali Hosseinalipour and Dusit Niyato and Khaled Ben Letaief},
journal= {arXiv preprint arXiv:2411.01458},
year = {2024}
}
备注
14 pages, 8 figures, 39 references