PLUME:基于协议感知分词构建面向无线轨迹的网络原生基础模型
机器学习
2026-03-17 v1 网络与互联网体系结构
摘要
基础模型在学习模态的本质结构时才能取得成功,无论是语言中尊重形态的 token,还是视觉中的像素。无线数据包轨迹也值得如此对待:意义从分层标题、类型字段、时序间隙和跨数据包状态机中涌现,而非平坦字符串。我们提出了 Plume(Protocol Language Understanding Model for Exchanges),一个用于 802.11 数据包轨迹的紧凑型 140 百万参数基础模型,通过结构化 PDML 解码实现学习。协议感知分词器在解码器字段树上进行分割,发出时序 gap token,并规范化标识符,使序列长度比 BPE 缩短 6.2 倍且每 token 信息密度更高。在精选语料库上训练后,Plume 在五个真实世界故障类别上实现 74%-97% 的下一个数据包 token 准确率,并在零样本异常检测中实现 AUROC >= 0.99。在相同的预测任务中,前沿 LLM(Claude Opus 4.6、GPT-5.4)虽然在获得相同协议上下文时得分相当,但 Plume 用了超过 600 倍更少的参数,能够在单张 GPU 上实现,几乎没有额外成本,对比云端 API 定价,使其能够在本地、隐私保护的根源分析中部署。
引用
@article{arxiv.2603.13647,
title = {PLUME: Building a Network-Native Foundation Model for Wireless Traces via Protocol-Aware Tokenization},
author = {Swadhin Pradhan and Shazal Irshad and Jerome Henry},
journal= {arXiv preprint arXiv:2603.13647},
year = {2026}
}
备注
14-pages, 802.11 foundation model, matches frontier LLMs with 600x fewer params via protocol-aware tokenization, 5 figures, 12 tables, AUROC>=0.99 for zero-shot anomaly detection