委员会神经网络势控制泛化误差并实现主动学习
化学物理
2020-10-21 v2 机器学习
计算物理
机器学习
摘要
在机器学习领域中,委员会模型可提高精度、提供泛化误差估计并支持主动学习策略,这是众所周知的。本工作中,我们将这些概念应用于基于人工神经网络的原子间势。我们采用多个共享相同原子环境描述符的模型替代单一模型,其平均值优于各个成员,并以委员会分歧的形式给出泛化误差的度量。我们不仅在主动学习过程中利用该分歧识别最相关的构型以构建模型的训练集,还在模拟期间对其进行监控和偏置以控制泛化误差。这促进了委员会神经网络势及其训练集的自适应开发,同时将第一性原理计算的数量保持在最低。为说明该方法的好处,我们将其应用于凝聚相水的委员会模型开发。从单一参考第一性原理模拟出发,我们利用主动学习扩展到新的状态点并描述原子核的量子性质。最终模型在 814 个参考计算上训练,在一系列条件下给出优异结果,从常温和升压下的液态水到不同相的冰,以及空气-水界面——均包含核量子效应。这种委员会模型方法将实现对广泛系统鲁棒机器学习模型的系统性开发。
引用
@article{arxiv.2006.01541,
title = {Committee neural network potentials control generalization errors and enable active learning},
author = {Christoph Schran and Krystof Brezina and Ondrej Marsalek},
journal= {arXiv preprint arXiv:2006.01541},
year = {2020}
}
备注
The following article has been submitted to the Journal of Chemical Physics