中文

可训练自适应激活函数结构(TAAFS)仅用数十个额外参数提升神经网络力场性能

机器学习 2024-12-20 v1

摘要

神经网络力场(NNFF)的核心是神经网络架构,其建模复杂相互作用的能力通常通过加宽或加深多层感知器(MLP)或增加图神经网络(GNN)的层数来增强。这些增强虽然提高了模型性能,但往往以参数数量大幅增加为代价。通过应用可训练自适应激活函数结构(TAAFS),我们引入了一种方法,该方法为非线性激活选择不同的数学公式,从而在参数数量增加微不足道的情况下提高NNFF的精度。在本研究中,我们将TAAFS集成到多种神经网络模型中,观察到准确性的提升,并通过使用DeepMD的分子动力学(MD)模拟进一步验证了这些改进。

关键词

引用

@article{arxiv.2412.14655,
  title  = {Trainable Adaptive Activation Function Structure (TAAFS) Enhances Neural Network Force Field Performance with Only Dozens of Additional Parameters},
  author = {Enji Li},
  journal= {arXiv preprint arXiv:2412.14655},
  year   = {2024}
}