迭代SE(3)-Transformers
机器学习
2021-03-17 v2 机器学习
摘要
在处理三维数据时,可通过应用所谓的SE(3)-等变模型来确保旋转和平移对称性得到保持。蛋白质结构预测是展现这些对称性的一个突出任务例子。该领域的近期工作已成功利用了一种SE(3)-等变模型,应用了迭代的SE(3)-等变注意力机制。受此应用启发,我们实现了SE(3)-Transformer的迭代版本,这是一种用于图数据的基于SE(3)-等变注意力的模型。我们解决了以迭代方式应用SE(3)-Transformer时出现的额外复杂性,在一个玩具问题上比较了迭代版本与单次传递版本,并探讨了为何迭代模型在某些问题设定中可能是有益的。我们将实现的代码向社区公开。
引用
@article{arxiv.2102.13419,
title = {Iterative SE(3)-Transformers},
author = {Fabian B. Fuchs and Edward Wagstaff and Justas Dauparas and Ingmar Posner},
journal= {arXiv preprint arXiv:2102.13419},
year = {2021}
}