迈向 SO(3)-等变性与表达能力的协调：用于电子结构哈密顿量预测的混合深度学习框架
计算物理
2024-06-25 v9 材料科学
机器学习
摘要
用于预测量子系统电子结构哈密顿量的深度学习必须满足协变定律，其中在不牺牲网络非线性表达能力的情况下实现 SO(3)-等变性仍是一个未解问题。为了在等变性与表达能力之间寻求协调，我们提出了一种深度学习方法，将两种不同类别的神经机制协同作为两阶段编码与回归框架。第一阶段对应于基于群论的神经机制，在参数学习过程之前具有固有的 SO(3)-等变特性；第二阶段以我们提出的非线性 3D 图 Transformer 网络为特征，具有高度的非线性表达能力。这种新颖的组合在于：第一阶段预测基线哈密顿量并提取丰富的 SO(3)-等变特征，辅助第二阶段进行等变性的经验学习；反过来，第二阶段利用强大的非线性神经映射对第一阶段的输出进行细化，作为哈密顿量的细粒度预测，弥补第一阶段机制在非线性表达能力上的固有弱点。我们的方法能够在旋转变换下捕获 SO(3)-等变性的同时实现精确、可泛化的预测，并在六个基准数据库的哈密顿量预测中取得了 state-of-the-art 性能。
引用
@article{arxiv.2401.00744,
title = {Towards Harmonization of SO(3)-Equivariance and Expressiveness: a Hybrid Deep Learning Framework for Electronic-Structure Hamiltonian Prediction},
author = {Shi Yin and Xinyang Pan and Xudong Zhu and Tianyu Gao and Haochong Zhang and Feng Wu and Lixin He},
journal= {arXiv preprint arXiv:2401.00744},
year = {2024}
}