何时注意力机制有助于高效学习无线资源分配？

由于注意力机制能够利用跨 token 的依赖性，Transformer 在自然语言处理中效率极高。通过利用资源分配政策中广泛存在的置换属性，每种将可测量环境参数（如信道矩阵）映射到优化变量（如预编码矩阵）的函数，图神经网络（GNN）在可扩展性和可推广性方面具有潜力。为两者兼取优势，最近一种趋势是将注意力机制与 GNN 结合用于学习无线政策。然而，注意力机制是否真正必要用于资源分配呢？本文通过分析定义在集合上的函数结构与数值算法，试图回答此问题，因为无线政策的置换属性由涉及的集合（如用户集合）所致。具体而言，我们证明，单个集合上的置换等变函数可递归地表示为两种函数类型：一种涉及注意力，另一种不涉及注意力。我们随后将若干典型资源分配问题的数值优化算法重新表述为递归形式。我们发现，当干扰（如多用户干扰或数据流间干扰）未体现于政策的可测量参数中时，需要使用注意力机制来建模干扰。基于此洞见，我们建立了一个通过对齐结构来设计 GNN 的框架。以可重构智能天线辅助的混合预编码为例，通过仿真验证了所提 GNN 的学习效率。