雅可比增强神经网络
机器学习
2026-01-01 v3
摘要
雅可比增强神经网络(Jacobian-Enhanced Neural Networks,JENN)是一种高度密集连接的多层感知器,其训练过程被修改以准确预测偏导数。其主要优势是相较于标准神经网络以更少的训练点实现更高精度。这些特性在计算机辅助设计领域尤为理想,因为该领域常需用快速运行的近似模型来取代计算昂贵的基于物理的模型,后者称为 surrogate model 或 meta-model。由于 surrogate 能在接近实时的条件下准确模拟原始模型,从而实现速度优势,可用于快速完成大量函数调用。然而,在梯度增强方法中,还有一个额外的价值主张,即偏导数准确,这对于一个重要用例至关重要:基于 surrogate 的优化。本 work 推导了完整的理论,并以标准神经网络为基准,展示了其在基于 surrogate 的优化中的优越性。
引用
@article{arxiv.2406.09132,
title = {Jacobian-Enhanced Neural Networks},
author = {Steven H. Berguin},
journal= {arXiv preprint arXiv:2406.09132},
year = {2026}
}
备注
34 pages, 9 figures