图自编码器与线性模型的关系

图自编码器被广泛用于构造欧几里得向量空间中的图表示。然而，已有实证研究指出，在许多任务上线性模型的表现可优于图自编码器。在我们的工作中，我们证明了图自编码器所诱导的解空间是线性映射解空间的子集。这表明基于图卷积网络的线性嵌入模型至少具有图自编码器的表示能力。那么为何我们仍在使用非线性图自编码器？一个原因可能是主动限制线性解空间会引入一种有助于改善学习与泛化的归纳偏置。尽管许多研究者认为编码器的非线性是实现这一目标的关键要素，我们反而将图的节点特征识别为更强大的归纳偏置。我们通过在线性模型中引入相应的偏置并分析解空间的变化，给出了理论见解。我们的实验与关于该问题的其他实证工作一致，并表明在使用特征信息时线性编码器可以优于非线性编码器。