面向医学影像的资源高效 Self-adapting Forward-Forward 网络

我们引入一种快速的 Self-adapting Forward-Forward 网络 (SaFF-Net) 用于医学影像分析，缓解当前由于依赖反向传播进行模型训练和微调而导致的能源消耗和资源限制。基于最近提出的 Forward-Forward 算法 (FFA)，我们引入卷积 Forward-Forward 算法 (CFFA)，这是一种适用于高级图像分析的、参数高效的改进方案，克服了原始 FFA 的速度和泛化约束。为了解决 FFAs 的超参数敏感性问题，我们还引入了一个自适应框架 SaFF-Net，在 warmup 和训练期间并行微调参数。我们的方法实现了更有效的模型训练，消除了 FFA 中先前必需的任意选择的 Goodness 函数的要求。我们在与标准反向传播神经网络进行比较的几个基准数据集上评估了该方法，表明 FFA-based 网络在参数数目和函数评估次数上显著少于标准模型，尤其是在 one-shot 场景和大批量大小的情况下可与标准模型竞争。该代码将在会议期间公开。