对比式前向-前向：一种视觉 Transformer 的训练算法

尽管反向传播被广泛接受为人工神经网络的训练算法，但研究人员始终在从大脑中寻找灵感，以发现可能具有更优性能的方法。前向-前向（Forward-Forward）是一种新颖的训练算法，更类似于大脑中发生的过程，尽管其性能与反向传播相比存在显著差距。在前向-前向算法中，损失函数被放置在每个层之后，一个层的更新通过两次局部前向传播和一次局部反向传播完成。前向-前向算法尚处于早期阶段，其设计和评估主要针对简单的多层感知器网络，用于解决图像分类任务。在这项工作中，我们将该算法的应用扩展到一个更复杂、更现代的网络，即视觉 Transformer。受对比学习思想的启发，我们尝试对该算法进行改进，从而提出了对比式前向-前向（Contrastive Forward-Forward）。实验结果表明，我们提出的算法性能显著优于基线前向-前向算法，准确率提升高达 10%，并将收敛速度加快了 5 到 20 倍。此外，如果以交叉熵作为反向传播中的基线损失函数，将证明对基线前向-前向算法所做的修改，缩小了其在视觉 Transformer 上与反向传播的性能差距，并且在某些条件下（例如不准确的监督）甚至优于后者。