面向 3D 分子性质预测及更广任务的简单 GNN 正则化
机器学习
2022-03-16 v2
摘要
在本文中，我们展示了简单的噪声正则化可成为解决 GNN 过平滑问题的有效方法。首先我们认为，解决过平滑的正则化器应同时惩罚节点隐空间相似性并鼓励有意义的节点表示。由该观察我们推导出“Noisy Nodes”，一种用噪声破坏输入图并添加噪声校正节点级损失的简单技术。多样的节点级损失鼓励隐节点多样性，去噪目标鼓励图流形学习。我们的正则化器以简单直接的方式应用了经过充分研究的方法，使即便是通用架构也能克服过平滑，在量子化学任务上取得最先进结果，并显著改进 Open Graph Benchmark（OGB）数据集上的结果。我们的结果表明 Noisy Nodes 可作为 GNN 工具箱中的互补构件。
引用
@article{arxiv.2106.07971,
title = {Simple GNN Regularisation for 3D Molecular Property Prediction & Beyond},
author = {Jonathan Godwin and Michael Schaarschmidt and Alexander Gaunt and Alvaro Sanchez-Gonzalez and Yulia Rubanova and Petar Veličković and James Kirkpatrick and Peter Battaglia},
journal= {arXiv preprint arXiv:2106.07971},
year = {2022}
}
备注
ICLR 2022 Camera Ready