残差多保真度神经网络计算
机器学习
2025-03-07 v3 数值分析
数值分析
摘要
在这项工作中，我们考虑利用多保真度信息构造神经网络代理模型的通用问题。受 ReLU 神经网络的误差-复杂度估计启发，我们将廉价低保真度模型与昂贵高保真度模型之间的关联表述为一个可能非线性的残差函数。该函数定义了以下两者之间的映射：1) 模型共享的输入空间连同低保真度模型输出，以及 2) 两个模型输出之间的偏差。该计算框架通过训练两个协同工作的神经网络来推进。第一个网络在少量高保真度与低保真度数据上学习残差函数。训练完成后，该网络用于生成额外的合成高保真度数据，这些数据被用于训练第二个网络。训练好的第二个网络随后作为我们对高保真度目标量的代理。我们给出四个数值算例以展示所提框架的能力，表明当输出预测要求在较小容差内准确时，可显著节省计算成本。
引用
@article{arxiv.2310.03572,
title = {Residual Multi-Fidelity Neural Network Computing},
author = {Owen Davis and Mohammad Motamed and Raul Tempone},
journal= {arXiv preprint arXiv:2310.03572},
year = {2025}
}