基于层次化校正高斯模型的自底向上与自顶向下推理

卷积神经网络（CNN）近年来展现出卓越的性能。这类方法通常以单向自底向上的前馈方式工作。然而，实践经验和生物学证据表明，反馈起着至关重要的作用，尤其对于精细的空间理解任务。本文探索了同时进行自顶向下反馈推理的双向架构：神经单元同时受低层和高层单元的影响。我们通过将单元视为二次能量函数中的校正潜变量来实现这一点，该模型可被视为层次化校正高斯模型（RG）。我们证明RG可通过一个二次规划（QP）进行优化，而该二次规划又可通过一个带有校正线性单元的递归神经网络进行优化。这使得RG能够利用GPU优化的梯度下降进行训练。从理论角度看，RG有助于建立CNN与层次化概率模型之间的联系。从实践角度看，RG非常适合那些能从自顶向下推理中获益的精细空间任务。我们在具有挑战性的遮挡下关键点定位任务上对其进行了展示，该任务中局部自底向上证据可能具有误导性。我们在具有挑战性的基准测试上展示了最先进的结果。