中文

异构Transformer:一种适用于设备活跃检测的尺度自适应神经网络架构

信息论 2021-12-21 v1 网络与互联网体系结构 信号处理 math.IT

摘要

为支持现代机器类通信,随机接入阶段的一项关键任务是设备活跃检测,即基于接入点接收信号从大量潜在设备中检测活跃设备。通过利用信道的统计特性,最先进的基于协方差的方法已被证明比基于压缩感知的方法具有更好的活跃检测性能。然而,基于协方差的方法需要通过依次更新每个设备的活跃状态估计来求解高维非凸优化问题。由于更新次数与设备数量成正比,其计算复杂度和延迟使得迭代更新难以实时实现,尤其在设备数量增大时。受深度学习实时推理成功的启发,本文提出一种基于学习的方法,采用定制的异构Transformer架构进行设备活跃检测。通过在架构设计中采用注意力机制,所提方法能够提取设备导频与接收信号之间的相关性,对设备具有置换等变性,并且可尺度自适应于不同设备数量。仿真结果表明,与最先进的协方差方法相比,所提方法取得了更好的活跃检测性能且计算时间大幅缩短,并能很好地泛化到不同设备数、基站天线数以及不同信噪比。

关键词

引用

@article{arxiv.2112.10086,
  title  = {Heterogeneous Transformer: A Scale Adaptable Neural Network Architecture for Device Activity Detection},
  author = {Yang Li and Zhilin Chen and Yunqi Wang and Chenyang Yang and Yik-Chung Wu},
  journal= {arXiv preprint arXiv:2112.10086},
  year   = {2021}
}

备注

submitted to IEEE journal for possible publication