LWM-Temporal:面向无线信道表示学习的稀疏时空注意力
机器学习
2026-03-12 v1 信息论
math.IT
摘要
LWM-Temporal 是 Large Wireless Models (LWM) 家族中的新成员,旨在针对无线信道的时空特性进行建模。作为面向各种下游任务的任务中性基础模型,LWM-Temporal 学习通用的信道嵌入,捕获由移动性引起的演变,并可在不同下游任务之间重用。为实现这一目标,LWM-Temporal 在角-延迟-时间域中工作,引入稀疏时空注意力 (SSTA),这是一种与传输路径对齐的注意力机制,将交互限制在物理上可行的邻域,从而将注意力复杂度降低了一个数量级,同时保持几何一致的依赖关系。LWM-Temporal 采用基于物理的遮蔽 curriculum 以自监督方式进行预训练,模拟真实的遮挡、飞行间隙稀疏和测量瑕疵。实验结果表明,在多种移动方式下进行信道预测时,LWM-Temporal 相对于强基准方法 consistently 取得改进,尤其是在较长的预测时域和有限的微调数据下,突显了几何感知架构和几何一致预训练在学习可迁移时空无线表示方面的重要性。
引用
@article{arxiv.2603.10024,
title = {LWM-Temporal: Sparse Spatio-Temporal Attention for Wireless Channel Representation Learning},
author = {Sadjad Alikhani and Akshay Malhotra and Shahab Hamidi-Rad and Ahmed Alkhateeb},
journal= {arXiv preprint arXiv:2603.10024},
year = {2026}
}
备注
LWM resources are publicly available at [https://lwm-wireless.net/](https://lwm-wireless.net/)