多向量神经元:更好更快的O(n)-等变Clifford图神经网络
机器学习
2024-07-11 v2 人工智能
摘要
当前大多数对或等变的深度学习模型要么主要考虑距离和角度等标量信息,要么计算复杂度非常高。本文测试了几种基于Clifford多向量的新型消息传递图神经网络(GNN),其结构与几何深度学习中的其他主流等变模型类似。我们的方法利用高效的等变标量特征,同时通过对多向量表示进行表达性学习,特别是通过使用等变几何积算子。通过整合这些元素,我们的方法在N体模拟任务和蛋白质去噪任务上优于已建立的高效基线模型,同时保持高效率。特别是,我们将N体数据集上的最先进误差推至0.0035(三次运行的平均值);比近期方法提高了8%。我们的实现已在Github上公开。
引用
@article{arxiv.2406.04052,
title = {Multivector Neurons: Better and Faster O(n)-Equivariant Clifford Graph Neural Networks},
author = {Cong Liu and David Ruhe and Patrick Forré},
journal= {arXiv preprint arXiv:2406.04052},
year = {2024}
}