中文

神经架构如何影响用于通信网络的深度学习?

信息论 2022-03-22 v2 math.IT

摘要

近年来,将深度学习应用于通信网络中各种具有挑战性的设计问题已蔚然成风。早期的尝试采用了继承自计算机视觉等应用的神经架构,这些架构存在泛化能力差、可扩展性不足和缺乏可解释性的问题。为解决这些问题,领域知识已被整合到神经架构设计中,这在大规模网络中实现了接近最优的性能,并在不同系统设置下具有良好的泛化能力。本文致力于从理论上验证将深度学习应用于设计通信网络时神经架构的重要性和影响。我们证明,通过利用通信网络中的一种常见性质——排列不变性,图神经网络(GNNs)比全连接多层感知器(MLPs)收敛更快、泛化更好,尤其是在节点(例如,用户、基站或天线)数量较多时。具体而言,我们证明,在常见假设下,对于一个具有nn个节点的通信网络,与MLPs相比,GNNs的收敛速度快O(nlogn)O(n \log n)倍,其泛化误差低O(n)O(n)倍。

关键词

引用

@article{arxiv.2111.02215,
  title  = {How Neural Architectures Affect Deep Learning for Communication Networks?},
  author = {Yifei Shen and Jun Zhang and Khaled B. Letaief},
  journal= {arXiv preprint arXiv:2111.02215},
  year   = {2022}
}