面向输出导数的反向传播算法推广

反向传播算法是神经网络分析的基石。本文将其推广用于训练神经网络输出关于其输入的任意阶导数。借此，前馈网络可用于求解或验证偏微分方程或简单、线性或非线性微分方程的解。该方法与传统方法（如网格上的有限差分）大不相同。它不含任何近似，而是微分算子的精确形式。所构建的算法可训练具有任意数量隐藏层和任意种类充分光滑激活函数的前馈网络。算法以矩阵-向量乘积的形式给出，因此高度并行的实现 readily possible。第一部分推导了具有一阶和二阶导数的二维情形下的方法，第二部分将其推广到具有任意导数的 N 维情形。使用该方法求解大多数应用偏微分方程所需的所有表达式均可在附录 D 中找到。