面向高维函数逼近的梯度增强多保真神经网络
机器学习
2021-03-24 v1
摘要
本工作中提出一种新颖的多保真机器学习（ML）模型——梯度增强多保真神经网络（GEMFNNs）。该模型是梯度增强神经网络（GENNs）的多保真版本，因其利用多个保真层级上可用的函数与梯度信息进行函数逼近。其构建类似于多保真神经网络（MFNNs）。该模型在三个解析函数上测试：一个一元、二元与二十元变量函数。并与神经网络（NNs）、GENNs 和 MFNNs 比较，测量达到 0.99 决定系数（R^2）全局精度所需的样本数。GEMFNNs 在一元、二元与二十维情形分别需要 18、120 和 600 个高保真样本以满足目标精度。NNs 在一元情形表现最佳，仅需 10 个样本，而 GENNs 在二元情形最佳，需 120 个样本。GEMFNNs 在二十维情形最佳，且所需样本近乎为其最接近竞争者 GENNs 的八分之一。该情形下，NNs 与 MFNNs 即便使用 10,000 个高保真样本也未达到目标全局精度。本工作展示了在高维问题中于 NNs 里利用梯度与多保真信息的益处。
引用
@article{arxiv.2103.12247,
title = {Gradient-enhanced multifidelity neural networks for high-dimensional function approximation},
author = {Jethro Nagawkar and Leifur Leifsson},
journal= {arXiv preprint arXiv:2103.12247},
year = {2021}
}
备注
Submitted to AMSE 2021 IDETC/CIE conference. 10 pages, 5 figures