用神经网络求解逆问题的惊人有效性

从数据中寻找模型参数是科学和工程中的基本任务，从天气和气候预测到等离子体控制。先前的工作利用神经网络大大加速了逆问题的求解。特别值得关注的是端到端模型，它们利用可微仿真将模拟过程的反馈反向传播到网络权重，从而实现多时间步的展开。到目前为止，人们一直假设虽然模型推理比经典优化更快，但这会以降低解的精度为代价。我们证明这通常不成立。事实上，训练用于学习逆问题解的神经网络即使在训练集上也能找到比经典优化器更好的解。为证明这一点，我们进行了理论分析以及在涉及局部极小值、混沌和零梯度区域的挑战性问题上的广泛经验评估。我们的结果表明神经网络的另一种用途：与其泛化到新数据以实现快速推理，它们还可以用于在已知数据上找到更好的解。