用于高性能材料性质预测的可扩展更深图神经网络
材料科学
2021-09-28 v1 机器学习
摘要
基于机器学习(ML)的材料发现已成为材料科学中取得突破最有前景的方法之一。虽然基于启发式知识的描述符已与ML算法结合取得了良好性能,但物理化学机制的复杂性使得迫切需要从成分或结构中发掘表示学习,以构建高效的物料机器学习模型。在这些方法中,图神经网络因其从晶体结构学习高层特征的能力而表现出最佳性能。然而,所有这些模型都受其消息传递GNN架构过平滑问题的困扰,无法扩展模型规模。在此我们提出一种新颖的图注意力神经网络模型DeeperGATGNN,具有可微分组归一化与跳跃连接,可训练非常深的图神经网络模型(例如30层,而先前工作为3-9层)。通过对六个用于能量与带隙预测的基准数据集的系统基准研究,我们表明可扩展的DeeperGATGNN模型对不同数据集几乎不需要代价高昂的超参数调优,并在六个性质中的五个上取得了最先进的预测性能,提升高达10%。我们的工作表明,为应对晶体材料结构到性质的复杂映射,需要大规模极深图神经网络以实现稳健性能。
引用
@article{arxiv.2109.12283,
title = {Scalable deeper graph neural networks for high-performance materials property prediction},
author = {Sadman Sadeed Omee and Steph-Yves Louis and Nihang Fu and Lai Wei and Sourin Dey and Rongzhi Dong and Qinyang Li and Jianjun Hu},
journal= {arXiv preprint arXiv:2109.12283},
year = {2021}
}
备注
19 pages