MambaCSP：面向硬件高效的混合注意力状态空间模型用于信道状态预测
信息论
2026-04-27 v1 人工智能
机器学习
信号处理
math.IT
摘要
最近的研究表明，注意力机制的转换器和大型语言模型 (LLM) 架构能够通过捕获跨信道状态信息 (CSI) 序列的长程时间依赖性，实现出色的信道状态预测 (CSP) 性能。然而，这些模型在序列长度上具有二次扩展，导致计算成本、内存消耗和推理延迟显著增加，这限制了其在实时和资源受限的无线部署中的应用。在本文中，我们调查选择性状态空间模型 (SSM) 是否可以作为 CSI 预测的硬件高效替代方案。我们提出 MambaCSP，一种混合注意力 SSM 架构，将 LLM 基于的预测主干替换为线性时间的 Mamba 模型。为克服纯 SSM 仅具局部依赖的局限性，我们引入轻量级的 patch-mixer 注意力层，定期注入跨标记注意力，帮助进行长上下文 CSI 预测。广泛的 MISO-OFDM 模拟结果表明，MambaCSP 在 LLM 基于方法之上提高了预测精度达 9-12%，同时实现了最高 3.0 倍的吞吐量、2.6 倍的 VRAM 降低和 2.9 倍的推理加速。我们的结果表明，混合状态空间架构为未来无线网络中面向 AI 的可扩展和硬件高效 CSI 预测提供了有前景的方向。
引用
@article{arxiv.2604.21957,
title = {MambaCSP: Hybrid-Attention State Space Models for Hardware-Efficient Channel State Prediction},
author = {Aladin Djuhera and Haris Gacanin and Holger Boche},
journal= {arXiv preprint arXiv:2604.21957},
year = {2026}
}