中文

面向高维问题的梯度增强 Kriging 方法

机器学习 2017-08-10 v1 机器学习

摘要

代理模型为评估昂贵的函数提供了一种低计算成本的替代方案。由于需要大量的函数评估,构建具有大量自变量的精确代理模型目前是难以实现的。当存在高效的梯度计算方法(如伴随方法)时,梯度增强 Kriging 有潜力在达到所需精度的同时减少函数评估次数。然而,当前的梯度增强 Kriging 方法不能很好地随采样点数量进行扩展,因为相关矩阵的规模迅速增长,在设计空间的每个方向上为每个采样点添加了新信息。由于需要估计的超参数数量增加,它们也不能很好地随自变量数量进行扩展。为了解决这个问题,我们开发了一种新的梯度增强代理模型方法,该方法通过使用保持精度的偏最小二乘法大幅减少了超参数的数量。此外,该方法能够通过仅添加由偏最小二乘法提供的信息所定义的相关点来控制相关矩阵的规模。为了验证我们的方法,我们在最多 100 维的两个解析函数以及最多 15 维的不同复杂度的工程问题上,将所提出方法的全局精度与传统 Kriging 代理模型进行了比较。我们表明,为了获得所需的精度,所提出的方法比传统方法需要更少的采样点,或者在固定的采样点预算下提供更高的精度。在某些情况下,我们得到的模型比文献中的一系列代理模型准确 3 倍以上,并且比标准梯度增强 Kriging 模型快 3200 倍以上。

关键词

引用

@article{arxiv.1708.02663,
  title  = {Gradient-enhanced kriging for high-dimensional problems},
  author = {Mohamed Amine Bouhlel and Joaquim R. R. A. Martins},
  journal= {arXiv preprint arXiv:1708.02663},
  year   = {2017}
}

备注

27 pages, 5 figures