终身机器学习势
机器学习
2023-09-13 v2 无序系统与神经网络
化学物理
计算物理
摘要
在精确量子化学数据上训练的机器学习势(MLPs)能够保持高精度,同时带来极小的计算需求。其缺点在于,它们需要针对每个单独的系统进行训练。近年来,大量MLP被从头训练,因为学习额外数据通常需要再次在所有数据上训练,以免遗忘先前获得的知识。此外,大多数常见的MLP结构描述符无法高效表示大量不同的化学元素。在本工作中,我们通过引入包容元素的原子中心对称函数(eeACSFs)来解决这些问题,该函数结合了来自元素周期表的结构性质与元素信息。这些eeACSFs是我们开发终身机器学习势(lMLP)的关键。不确定性量化可被用于突破固定、预训练的MLP,从而得到持续适应的lMLP,因为可以确保在预定义的精度水平。为了将lMLP的适用性扩展到新系统,我们应用持续学习策略,以在连续的新数据流上实现自主且实时的训练。对于深度神经网络的训练,我们提出了持续弹性(CoRe)优化器以及依赖于数据复述、参数正则化和模型架构的增量学习策略。
引用
@article{arxiv.2303.05911,
title = {Lifelong Machine Learning Potentials},
author = {Marco Eckhoff and Markus Reiher},
journal= {arXiv preprint arXiv:2303.05911},
year = {2023}
}
备注
20 pages, 6 figures