中文

LinFormer:一种用于时间感知 MIMO 信道预测的基于线性的轻量级 Transformer 架构

机器学习 2024-10-30 v1 人工智能 网络与互联网体系结构 信号处理

摘要

第六代(6G)移动网络的兴起给支持高移动性通信带来了新的挑战,尤其是在解决信道老化问题方面。现有的信道预测方法虽提高了准确性,但以增加计算复杂度为代价,限制了它们在移动网络中的实际应用。为应对这些挑战,我们提出了 LinFormer,这是一个基于可扩展的全线性、仅编码器 Transformer 模型的创新信道预测框架。我们的方法受自然语言处理(NLP)模型(如 BERT)的启发,专门为信道预测任务适配了仅编码器架构。我们提出用时间感知多层感知机(TMLP)替代 Transformer 中常用的计算密集型注意力机制,从而显著降低计算需求。TMLP 模块固有的时间感知能力使其特别适用于信道预测任务。我们通过采用加权均方误差损失(WMSELoss)函数和数据增强技术,并利用更大且易于获取的通信数据集,增强了 LinFormer 的训练过程。我们的方法在保持高预测精度的同时,大幅降低了计算复杂度,使其更适合部署在成本效益高的基站(BS)中。使用仿真和实测数据进行的综合实验表明,LinFormer 在各种移动性场景下均优于现有方法,为未来无线通信系统提供了一种有前景的解决方案。

关键词

引用

@article{arxiv.2410.21351,
  title  = {LinFormer: A Linear-based Lightweight Transformer Architecture For Time-Aware MIMO Channel Prediction},
  author = {Yanliang Jin and Yifan Wu and Yuan Gao and Shunqing Zhang and Shugong Xu and Cheng-Xiang Wang},
  journal= {arXiv preprint arXiv:2410.21351},
  year   = {2024}
}