在大规模分子建模数据集上评测 Graphormer
机器学习
2023-01-10 v2
摘要
本技术说明描述了 Graphormer 近期的更新,包括架构设计修改,以及面向 3D 分子动力学模拟的适配。借助这些简单修改,Graphormer 在大规模分子建模数据集上可比原始版本取得更好结果,且性能提升在 2D 和 3D 分子图建模任务上均能稳定获得。此外,我们表明凭借全局感受野和自适应聚合策略,Graphormer 比经典的基于消息传递的 GNN 更强大。经验上,Graphormer 在 KDD Cup 2021 所用的 PCQM4M 量子化学数据集上可取得远小于原报告的 MAE。同时,它在近期的 Open Catalyst Challenge(NeurIPS 2021 研讨会上的竞赛赛道,旨在用先进 AI 模型建模催化剂-吸附物反应系统)中大幅超越竞争者。所有代码见 https://github.com/Microsoft/Graphormer。
引用
@article{arxiv.2203.04810,
title = {Benchmarking Graphormer on Large-Scale Molecular Modeling Datasets},
author = {Yu Shi and Shuxin Zheng and Guolin Ke and Yifei Shen and Jiacheng You and Jiyan He and Shengjie Luo and Chang Liu and Di He and Tie-Yan Liu},
journal= {arXiv preprint arXiv:2203.04810},
year = {2023}
}