应对材料性质预测中精度-成本权衡的师生策略
材料科学
2023-09-12 v1 机器学习
摘要
深度学习已革新了新材料发现的流程，当前最先进的模型仅依据化学成分即可预测材料性质，从而免除了对材料结构的依赖。然而，这种高性价比方法导致了模型精度的权衡。具体而言，基于化学成分的性质预测模型(CPMs)的精度显著落后于基于结构的性质预测模型(SPMs)。为应对此挑战，我们提出一种创新的师生(Teacher-Student, T-S)策略，其中预训练的 SPM 作为“教师”以提升 CPM 的精度。借助 T-S 策略，T-S CrabNet 已跃居当前 CPMs 中精度最高的模型。首先，我们证明了该策略的普适性。在 Materials Project (MP) 与 Jarvis 数据集上，我们以 CrabNet 与 Roost 两种不同网络结构验证了 T-S 策略提升 CPMs 精度的有效性。这使得在 T-S 策略指导下 CrabNet 成为当前 CPMs 中精度最高的模型。此外，该策略在小数据集上亦显卓越成效。当在仅含 5% 样本的 MP 小数据集上预测形成能时，T-S 策略将 CrabNet 精度提升 37.1%，超出其在全数据集上的增强效果。
引用
@article{arxiv.2309.04482,
title = {Addressing the Accuracy-Cost Tradeoff in Material Property Prediction: A Teacher-Student Strategy},
author = {Dong Zhu and Zhikuang xin and Siming Zheng and Yangang Wang and Xiaoyu Yang},
journal= {arXiv preprint arXiv:2309.04482},
year = {2023}
}