中文

理论理解基于 Transformer 的 In-Context Learning 以优化 CSMA

机器学习 2025-09-12 v4 人工智能 网络与互联网体系结构

摘要

二进制指数退避方案广泛用于 WiFi 7,仍在动态信道环境下导致差异差的吞吐量。最近的模型化方法(如非持久和 pp-持久 CSMA)仅在已知且固定节点密度下优化退避策略,仍因节点密度估计不准导致显著吞吐损失。本文首次提出基于 LLM Transformer 的 In-Context Learning(ICL)理论,用于优化信道访问。我们设计基于 Transformer 的 ICL 优化器,预收集碰撞阈值数据示例和查询碰撞案例,作为 Transformer 输入的 prompt 以学习模式,然后生成预测的竞争窗口阈值(CWT)。为有效训练 Transformer 实现 ICL,我们发展了高效算法,保证在有限训练步数内实现接近最优的 CWT 预测。鉴于实际操作中可能难以获取完美数据示例,我们进一步允许 prompt 中的数据输入存在错误。我们证明了该优化器在预测和吞吐量方面与最优值之间的偏差保持最小。NS-3 实验结果进一步表明,我们的方法在未知节点密度下实现快速收敛和接近最优的吞吐量,优于现有的模型化方法和基于深度强化学习的方法。

关键词

引用

@article{arxiv.2508.09146,
  title  = {To Theoretically Understand Transformer-Based In-Context Learning for Optimizing CSMA},
  author = {Shugang Hao and Hongbo Li and Lingjie Duan},
  journal= {arXiv preprint arXiv:2508.09146},
  year   = {2025}
}