使用 NEON——神经认知算子网络在函数空间中进行复合贝叶斯优化

算子学习是科学计算中一个新兴领域，其中机器学习模型的输入或输出是定义在无限维空间中的函数。在本文中，我们提出了 NEON（Neural Epistemic Operator Networks，神经认知算子网络），这是一种使用单个算子网络骨干生成带有不确定性预测的架构，其可训练参数比性能相当的深度集成少了数个数量级。我们通过考察复合贝叶斯优化（BO）问题展示了该方法在序贯决策中的效用，其中我们旨在优化函数 $f=g\circ h$，这里 $h:X\to C(\mathcal{Y},\mathbb{R}^{d_s})$ 是一个输出函数空间元素的未知映射，而 $g: C(\mathcal{Y},\mathbb{R}^{d_s})\to \mathbb{R}$ 是一个已知且易于计算泛函。通过在玩具场景和真实世界场景中将我们的方法与其他 SOTA 方法进行比较，我们证明了 NEON 在实现 SOTA 性能的同时，所需的可训练参数少了数个数量级。