CAS4DL：基于深度学习的 Christoffel 自适应采样函数逼近方法

从样本点逼近光滑多元函数的问题出现在科学计算的许多应用中，例如科学与工程中的计算不确定性量化（UQ）。在这些应用中，目标函数可能表示参数化偏微分方程（PDE）的感兴趣量。由于求解此类问题的代价很大（每个样本通过求解一个 PDE 得到），样本效率是这些应用关注的关键。近来，使用深度神经网络（DNN）和深度学习（DL）从数据学习此类函数受到越来越多的关注。在这项工作中，我们提出一种自适应采样策略 CAS4DL（用于深度学习的 Christoffel 自适应采样）以提高 DL 用于多元函数逼近的样本效率。我们的新方法基于将 DNN 的倒数第二层解释为在该层节点上定义的函数的字典。基于这一视角，我们定义了一种受近期为线性逼近方案提出的自适应采样方案启发的自适应采样策略，其中样本根据该字典所张成子空间的 Christoffel 函数随机抽取。我们给出了将 CAS4DL 与标准蒙特卡洛（MC）采样进行比较的数值实验。我们的结果表明，CAS4DL 通常在达到给定精度所需的样本数量上带来显著节省，特别是在光滑激活函数的情况下，并且与 MC 相比表现出更好的稳定性。因此，这些结果向着使 DL 完全适应科学计算应用迈出了有希望的一步。