ViT-CAT：用于MEC网络中流行度预测的并行视觉Transformer与交叉注意力融合
机器学习
2022-10-28 v1 网络与互联网体系结构
信号处理
摘要
移动边缘缓存（MEC）是第六代（6G）无线网络的一项革命性技术，有望通过在网络边缘提供存储容量来显著降低用户延迟。然而，MEC网络的效率关键取决于其动态预测/更新缓存节点中Top-K流行内容的能力。传统的统计缓存方案对内容请求底层模式的时变特性不够鲁棒，这导致人们对使用深度神经网络（DNN）进行MEC网络中的时间序列流行度预测产生了浓厚兴趣。然而，MEC背景下现有的DNN模型未能同时捕捉历史请求模式的时间相关性以及多个内容之间的依赖关系。这迫切需要开发设计一种新颖的流行度预测架构来应对这一关键挑战。本文通过提出一种基于注意力机制的新型混合缓存框架来填补这一空白。所提出的架构被称为并行视觉Transformer与交叉注意力融合（ViT-CAT），由两个并行的ViT网络组成，一个用于收集时间相关性，另一个用于捕获不同内容之间的依赖关系。随后，通过一个作为融合中心（FC）的交叉注意力（CA）模块，所提出的ViT-CAT能够学习时间与空间相关性之间的互信息，从而提高了分类精度，并将模型复杂度降低了约8倍。基于仿真结果，所提出的ViT-CAT架构在分类精度、复杂度和缓存命中率方面均优于其同类方案。
引用
@article{arxiv.2210.15125,
title = {ViT-CAT: Parallel Vision Transformers with Cross Attention Fusion for Popularity Prediction in MEC Networks},
author = {Zohreh HajiAkhondi-Meybodi and Arash Mohammadi and Ming Hou and Jamshid Abouei and Konstantinos N. Plataniotis},
journal= {arXiv preprint arXiv:2210.15125},
year = {2022}
}