中文

Zatom-1:面向 3D 分子与材料的多模态基础模型

机器学习 2026-05-14 v4 材料科学 人工智能

摘要

通用的 3D 建模在化学领域涵盖分子与材料,既需要生成能力又需预测能力。然而,大多数现有 AI 方法仅针对单一领域(分子或材料)和单一任务(生成或预测)进行优化,限制了表示的共享与迁移。我们引入 Zatom-1,一个跨域、通用的模型架构,统一 3D 分子与材料的生成与预测学习。Zatom-1 是一个经过简化设计的 Transformer,通过多模态流匹配目标进行训练,联合离散原子类型和连续 3D 几何形态建模。该方法支持随模型容量增大而可预测性提升,同时实现快速稳定的采样。我们采用跨域生成预训练作为通用初始化,用于下游多任务预测物性、能量和力。经验上,Zatom-1 在数据受控环境下的多任务生成与预测基准中超越或与专用基线持平,生成推理速度提升了一个数量级以上。我们的实验表明,联合生成预训练在数据域之间实现正向预测迁移:在生成预训练期间对材料的建模可提高分子属性预测准确率。开源代码和模型权重已在 https://github.com/Zatom-AI/zatom 上公开获取。

关键词

引用

@article{arxiv.2602.22251,
  title  = {Zatom-1: Towards a Multimodal Foundation Model for 3D Molecules and Materials},
  author = {Alex Morehead and Miruna Cretu and Antonia Panescu and Rishabh Anand and Maurice Weiler and Tynan Perez and Samuel Blau and Steven Farrell and Wahid Bhimji and Anubhav Jain and Hrushikesh Sahasrabuddhe and Pietro Lio and Tommi Jaakkola and Rafael Gomez-Bombarelli and Rex Ying and N. Benjamin Erichson and Michael W. Mahoney},
  journal= {arXiv preprint arXiv:2602.22251},
  year   = {2026}
}

备注

38 pages, 10 figures, 15 tables. ICLR 2026 FM4Science. Code, data, and model weights are available at https://github.com/Zatom-AI/zatom