中文

无线基础模型应多大?

信息论 2026-05-11 v1 机器学习 math.IT

摘要

无线基础模型正快速涌现,作为AI-native通信系统的关键使能器,但一个根本问题仍未解答:这些模型应多大?本文给出一种原则性、基于物理的答案,表明内在维度(dNL,即信道的非线性流形维度)作为基本瓶颈,定义了数据充足后期的规模上限。这种维度并非设计选择,而是物理约束:Maxwell方程、有限散射体和天线孔径本质上将无线传播环境限制在有限的自由度范围内——在我们评估的真实世界OTA测量和3GPP标准化信道模型中,spanning 5-35,远低于约1000维的语义空间。因此,我们提出无线AI的规模框架:以NTN卫星信道为代表案例(dNL≈14),规模收益在约3000万参数后迅速下降,超过7000万参数后进入随机 asymptotes,进一步1.6倍增加(9600万->1.5亿)仅提升0.52 dB。超过此上限后,通过射频辅助的测试时训练(TTT)推断时适应更为有效:规模为1200万参数的紧凑模型在一个体积为8分之一的9600万参数静态模型中,分别以9.9 dB(NMSE,SNR=20 dB)/ 7.6 dB(MCM,SNR=10 dB)的优势超越。我们通过NTN卫星仿真验证了dNL分布,并展示了室内大规模MIMO测量中的实际应用,重新定义无线AI设计:信道几何——而非模型规模——根本决定了物理层无线AI的规模定律。

关键词

引用

@article{arxiv.2605.07266,
  title  = {How Big Should a Wireless Foundation Model Be?},
  author = {Wei-Lun Cheng and Wanjiun Liao},
  journal= {arXiv preprint arXiv:2605.07266},
  year   = {2026}
}