利用深度网络和变分原理求解函数优化问题

神经网络能否仅凭原理来解数学问题？本文展示了如何利用微积分变分学的基本定理来设计深度神经网络，以无需训练数据（例如， ground-truth 最优解）来求解函数优化。我们的做方法在解决方案是定义在未知区间或支撑域（例如，最小时间控制问题）时尤为关键。通过在深度网络体系结构设计中纳入从变分学中推导出的最优函数解所满足的必要条件，CalVNet 能够利用过参数化的神经网络直接学习这些最优函数。我们通过不依赖 ground-truth 数据，仅仅纳入第一性原理，成功推导出线性滤波的卡尔曼滤波器、最小时间问题的最优 bang-bang 控制，以及在流形上寻找测地线。我们的结果表明，CalVNet 可以以无监督方式进行训练，而无需依赖 ground-truth 数据，为解决那些仍缺乏解析解的通用函数优化问题奠定了有前景的框架。