用于逼近图卷积算子跳跃间断的有理神经网络

对于节点级图编码，近来一项重要的前沿方法是图卷积网络（GCN），它很好地在谱域中融合了局部顶点特征与图拓扑。然而，现有研究存在若干缺陷：（1）图 CNN 依赖切比雪夫多项式逼近，导致在跳跃间断处出现振荡逼近；（2）提高切比雪夫多项式阶数可减轻振荡问题，但也会带来难以承受的计算代价；（3）切比雪夫多项式需要 $\Omega$(poly(1/$\epsilon$)) 阶才能逼近如 $|x|$ 这样的跳跃信号，而有理函数仅需 $\mathcal{O}$(poly log(1/$\epsilon$))。然而，在不增加计算复杂度的情况下应用有理逼近并非易事，因为存在分母。本文利用了有理逼近在图信号恢复中的优越性。提出 RatioanlNet 以将有理函数与神经网络相融合。我们展示了特征值的有理函数可重写为图拉普拉斯算子的函数，从而避免了与特征向量矩阵的相乘。聚焦于图卷积运算逼近的分析，我们构建了一个图信号回归任务。在该任务下，其时间复杂度可通过图傅里叶变换显著减小。为克服神经网络模型的局部极小问题，采用一种松弛 Remez 算法来初始化权重参数。为提供理论保证，分析了 RatioanlNet 与基于多项式的方法在跳跃信号上的收敛速率。大量实验结果表明，我们的方法能有效刻画跳跃间断，在合成与真实图上的表现均以大幅优势超越对比方法。