FLOPS：基于最优采样的前向学习

鉴于反向传播的局限性，基于扰动的梯度计算方法最近因仅需前向传播（也称为查询）进行学习而受到关注。传统的前向学习通过蒙特卡洛采样对每个数据点进行大量查询以实现精确的梯度估计，这阻碍了这些算法的可扩展性。然而，并非所有数据点都值得为梯度估计分配相同的查询量。本文从一个新颖的角度研究提高前向学习效率的问题：如何以最小代价降低梯度估计方差？为此，我们提出在训练过程中为每个批次中的数据分配最优数量的查询，以在估计精度和计算效率之间取得良好平衡。具体来说，通过一个简化的代理目标和重参数化技术，我们推导出一个新颖的即插即用型查询分配器，其参数极少。理论结果验证了其最优性。我们在各种数据集上对Vision Transformers进行微调实验，并进一步将分配器部署到两个黑盒应用中：基础模型的提示调优和多模态对齐。所有发现均表明，我们提出的分配器显著增强了前向学习算法的可扩展性，为实际应用铺平了道路。