Element2Vec：从文本构建化学元素的表示以进行性质预测
计算与语言
2025-10-20 v2
摘要
化学元素的准确性质数据对于材料设计和制造至关重要，但许多数据由于设备限制难以直接测量。传统方法通常使用其他元素的属性或相关属性通过数值分析进行预测，常常无法建模复杂的关系。毕竟，并非所有特征都可以表示为标量。近期 efforts 探索了利用语言模型进行属性估计的高级 AI 工具，但仍存在幻觉问题和缺乏可解释性。本文我们调查了 Element2Vector 如何有效地从自然语言中表示化学元素以支持自然科学研究。给定从维基百科页面解析的文本，我们使用语言模型生成单个通用-purpose 嵌入（Global）以及一组突出显示属性的向量（Local）。尽管元素之间存在复杂的关系，但计算挑战也存在于 1）常见描述与专门科学文本之间文本分布的差异，以及 2）极其有限的数据，即仅有 118 个已知元素，特定属性的数据常常高度稀疏和不完整。因此，我们还设计了一种基于自注意力的测试时训练方法，以缓解 Vanilla 回归导致的预测误差。我们希望本工作能够为推动材料科学中基于 AI 的发现之路。
引用
@article{arxiv.2510.13916,
title = {Element2Vec: Build Chemical Element Representation from Text for Property Prediction},
author = {Yuanhao Li and Keyuan Lai and Tianqi Wang and Qihao Liu and Jiawei Ma and Yuan-Chao Hu},
journal= {arXiv preprint arXiv:2510.13916},
year = {2025}
}