NEAT:基于邻域引导的高效自回归分子集变换器
机器学习
2026-05-07 v3 人工智能
摘要
基于Transformer的自回归模型是扩散和流匹配方法的高效替代方案,用于生成3D分子。但仍面临一个挑战:标准Transformer架构需要对原子进行顺序排列,而这在分子原子上本质上没有定义。先前方法通过使用规范原子排序来解决此问题。然而,这些方法对原子不具备置换不变性,并且倾向于遵循特定的排序惯例进行下一个标记预测。我们通过引入一种新颖的邻域引导训练策略来克服这一限制。我们的模型NEAT(Neighborhood-Guided, Efficient, Autoregressive Set Transformer)将分子图视为原子的集合,学习在图边界上对可接受标记的分布进行顺序无关的建模,从而确保原子水平的置换不变性。NEAT在QM9和GEOM-Drugs数据集上实现了状态的最佳生成质量,同时在速度上显著优于现有基准。
关键词
引用
@article{arxiv.2512.05844,
title = {NEAT: Neighborhood-Guided, Efficient, Autoregressive Set Transformer for 3D Molecular Generation},
author = {Daniel Rose and Roxane Axel Jacob and Johannes Kirchmair and Thierry Langer},
journal= {arXiv preprint arXiv:2512.05844},
year = {2026}
}