面向可扩展性与通用性的半 amortized Lifted Learning-to-Optimize Masked (SALLO-M) Transformer 模型

我们发展了一个用于实时可扩展且通用的下行波束赋形的无监督深度学习框架，针对多用户单输入多输出 (MU-MISO) 系统。 proposed 的半 amortized lifted learning-to-optimize (SALLO) 框架采用多层 Transformer 来迭代细化辅助变量和波束赋形解，每个层使用几步投影梯度上升。SALLO Transformer 模型的关键特性是能够处理不同数量的用户和天线， thanks to 用户-天线双 tokenization 和结构化 sample/attention masking scheme，这导致在不同配置下实现通用性而无需重新训练。为提高收敛性和鲁棒性，我们引入了三个训练策略：(a) 滑动窗口训练以稳定梯度传播，(b) 带随机 masking 的课程学习以实现用户-天线配置通用性并防止早期阶段的差异收敛，以及 (c) sample replay 以缓解多阶段训练中的灾难性遗忘。消融研究验证了若干关键架构设计，表明增强的训练方案提高了通用性和解质量。仿真结果显示，所提出的方案在高斯信道和稀疏信道条件下均优于现有深度学习基线，无论是哪种系统配置。性能提升在超载情形下更为显著，凸显在挑战情形下的鲁棒性。此外，我们的方案在低于 certain 阈值的超载因子时甚至超过 WMMSE 基准。这些收益是通过快速推断和大幅度轻量化模型实现的，相较于无线基础模型。