基于梯度的脑功能理论中度量的选择

大脑以最小化某些代价的方式发挥功能的观点在理论神经科学中十分普遍。由于代价函数本身并不能预测大脑如何找到其最小值，需要关于优化方法的额外假设来预测生理量的动力学。在此背景下，最速下降（也称梯度下降）常被建议作为大脑可能实现的优化算法原理。在实践中，研究者常将偏导数向量视为梯度。然而，梯度的定义与最速方向的概念依赖于度量的选择。由于度量的选择涉及大量自由度，除非对度量的选择有强约束，否则基于梯度下降的模型的预测能力必须受到质疑。在此，我们对梯度下降的数学进行了教学式综述，通过文献中的例子阐明将梯度下降作为脑功能原理的常见陷阱，并提出了约束度量的前进方向。