LLM 遇上扩散模型：晶体材料生成的混合框架
机器学习
2025-10-28 v1 材料科学
人工智能
摘要
近期的生成式建模技术在设计新型周期晶体结构方面取得了显著进展。现有方法通常依赖于大语言模型（LLM）或等变去噪模型，每种方法各有优势：LLM 在处理离散原子类型方面表现出色，但在处理原子位置和晶格参数等连续特征时常感到困难；而去噪模型在建模连续变量方面有效，但在生成准确原子组成时遇到困难。为弥合这一差距，我们提出了一种混合框架CrysLLMGen，将LLM与扩散模型集成，利用二者的互补优势进行晶体材料生成。在采样过程中，CrysLLMGen首先采用微调后的LLM生成原子类型、原子坐标和晶格结构的中间表示。当保留预测的原子类型后，将原子坐标和晶格结构传递给预训练的等变扩散模型进行精细调整。我们的框架在多个基准任务和数据集上超越了当前最先进的生成模型。具体而言，CrysLLMGen不仅在结构和成分有效性之间取得了平衡，还生成的材料比基于LLM或去噪模型的材料更稳定且更具创新性。此外，CrysLLMGen展现出强大的条件生成能力，能够有效生成满足用户定义约束的材料。代码已公开于 https://github.com/kdmsit/crysllmgen
引用
@article{arxiv.2510.23040,
title = {LLM Meets Diffusion: A Hybrid Framework for Crystal Material Generation},
author = {Subhojyoti Khastagir and Kishalay Das and Pawan Goyal and Seung-Cheol Lee and Satadeep Bhattacharjee and Niloy Ganguly},
journal= {arXiv preprint arXiv:2510.23040},
year = {2025}
}
备注
NeurIPS 2025