NOSMOG：在图上学习噪声鲁棒且结构感知的多层感知机
机器学习
2023-02-27 v2
摘要
尽管图神经网络（GNN）在处理非欧几里得结构数据方面已展现出其有效性，但由于多跳数据依赖所带来的可扩展性限制，它们难以部署于实际应用中。现有方法试图通过使用训练好的 GNN 派生的标签，仅在节点内容特征上训练多层感知机（MLP）来解决这一可扩展性问题。尽管 MLP 的性能可得到显著提升，但有两个问题阻碍 MLP 超越 GNN 并投入实际使用：对图结构信息的忽视以及对节点特征噪声的敏感性。在本文中，我们提出学习图上噪声鲁棒且结构感知的多层感知机（NOSMOG）以克服这些挑战。具体而言，我们首先用位置特征补充节点内容，以帮助 MLP 捕获图结构信息。然后我们设计了一种新颖的表示相似性蒸馏策略，将结构化的节点相似性注入 MLP。最后，我们引入对抗特征增强，以确保针对特征噪声的稳定学习并进一步提升性能。大量实验表明，在七个数据集的转导与归纳设定下，NOSMOG 均优于 GNN 与最先进（SOTA）方法，同时保持了具有竞争力的推理效率。代码已发布于 https://github.com/meettyj/NOSMOG。
引用
@article{arxiv.2208.10010,
title = {NOSMOG: Learning Noise-robust and Structure-aware MLPs on Graphs},
author = {Yijun Tian and Chuxu Zhang and Zhichun Guo and Xiangliang Zhang and Nitesh V. Chawla},
journal= {arXiv preprint arXiv:2208.10010},
year = {2023}
}
备注
NeurIPS 2022 GLFrontiers