扩展计算材料数据库进行真实世界预测的Sim2Real迁移学习的缩放定律
材料科学
2024-08-09 v1 机器学习
摘要
为了应对实验材料数据有限的挑战,正在基于高通量计算实验(如分子动力学模拟)开发大量的物理性质数据库。先前研究表明,将基于计算数据库预训练的预测器微调至真实系统,可以得到与从头学习相比具有出色泛化能力的模型。本研究展示了材料科学中若干机器学习任务的仿真到真实(Sim2Real)迁移学习的缩放定律。针对聚合物和无机材料的三项预测任务的案例研究表明,真实系统上的预测误差随计算数据规模的增加按照幂律下降。观察缩放行为为数据库开发提供了多种见解,例如确定实现所需性能所需的样本量、识别物理实验和计算实验的等效样本量,以及指导下游真实世界任务的数据生产协议设计。
引用
@article{arxiv.2408.04042,
title = {Scaling Law of Sim2Real Transfer Learning in Expanding Computational Materials Databases for Real-World Predictions},
author = {Shunya Minami and Yoshihiro Hayashi and Stephen Wu and Kenji Fukumizu and Hiroki Sugisawa and Masashi Ishii and Isao Kuwajima and Kazuya Shiratori and Ryo Yoshida},
journal= {arXiv preprint arXiv:2408.04042},
year = {2024}
}
备注
22 pages, 6 figures