中文

在大规模分子建模数据集上评测 Graphormer

机器学习 2023-01-10 v2

摘要

本技术说明描述了 Graphormer 近期的更新,包括架构设计修改,以及面向 3D 分子动力学模拟的适配。借助这些简单修改,Graphormer 在大规模分子建模数据集上可比原始版本取得更好结果,且性能提升在 2D 和 3D 分子图建模任务上均能稳定获得。此外,我们表明凭借全局感受野和自适应聚合策略,Graphormer 比经典的基于消息传递的 GNN 更强大。经验上,Graphormer 在 KDD Cup 2021 所用的 PCQM4M 量子化学数据集上可取得远小于原报告的 MAE。同时,它在近期的 Open Catalyst Challenge(NeurIPS 2021 研讨会上的竞赛赛道,旨在用先进 AI 模型建模催化剂-吸附物反应系统)中大幅超越竞争者。所有代码见 https://github.com/Microsoft/Graphormer。

关键词

引用

@article{arxiv.2203.04810,
  title  = {Benchmarking Graphormer on Large-Scale Molecular Modeling Datasets},
  author = {Yu Shi and Shuxin Zheng and Guolin Ke and Yifei Shen and Jiacheng You and Jiyan He and Shengjie Luo and Chang Liu and Di He and Tie-Yan Liu},
  journal= {arXiv preprint arXiv:2203.04810},
  year   = {2023}
}