面向以Erd\H{o}s--R\'enyi 杂净的随机几何图上的基于图注意力的节点回归
机器学习
2026-02-02 v1 信息论
机器学习
社会与信息网络
math.IT
统计理论
统计理论
摘要
图注意力网络(GATs)广泛使用且常被认为对节点协变量和边缘噪声具有鲁棒性,但稀缺地存在对非注意力图神经网络(GNNs)的严格统计保证以证明其优势。我们在面对同时协变量和边缘损坏的基于图的误变量模型下,部分填补这一差距进行节点回归:响应变量来自隐含节点级协变量,但仅观测到被噪声扰动的隐含协变量的版本;样本图是由节点协变量创建的随机几何图,但被独立的Erd\H{o}s--R\'enyi 边缘污染。我们提出并分析了一个精心设计的、针对任务的GAT,其构建去噪代理特征用于回归。我们证明,对代理特征进行回归可在以下方面实现较低的渐近误差:(a)估计回归系数相对于基于噪声节点协变量的普通最小二乘(OLS)估计器,以及(b)预测来自未标记节点的响应相对于基础图卷积网络(GCN)——在温和的增长条件下。我们的分析利用高维几何尾部界限和邻域计数以及样本协方差的浓度。我们通过合成数据的实验验证了理论发现。我们还对真实图进行实验,展示了注意力机制在多个节点回归任务中的有效性。
关键词
引用
@article{arxiv.2601.23239,
title = {Graph Attention Network for Node Regression on Random Geometric Graphs with Erd\H{o}s--R\'enyi contamination},
author = {Somak Laha and Suqi Liu and Morgane Austern},
journal= {arXiv preprint arXiv:2601.23239},
year = {2026}
}
备注
62 pages, 2 figures, 2 tables