用于在线持续学习的基于元更新的样本权重估计

损失函数在优化学习系统性能方面起着重要作用。损失函数的一个关键方面是在损失计算过程中为 mini-batch 内的样本分配权重。在持续学习（CL）的背景下，大多数现有策略在计算损失值时同等对待样本，从而为每个样本分配相等的权重。虽然这种方法在某些标准基准测试中可能有效，但其最佳有效性，尤其是在更复杂的场景中，仍有待进一步探索。这在“野外”训练中尤为相关，例如在自训练中，使用参考模型自动进行标注。本文引入了在线元学习样本重要性（OMSI）策略，该策略利用内更新与元更新机制来近似在线 CL 流中 mini-batch 的样本权重。具体做法是首先估计 mini-batch 中每个样本的样本权重参数，然后使用调整后的样本权重更新模型。我们在两种不同的实验设置下评估了 OMSI。首先，我们展示了 OMSI 在受控的噪声标签数据流中提升了学习精度和保持精度。然后，我们在三个标准基准测试中测试了该策略，并将其与其他流行的基于回放的策略进行了比较。本研究旨在促进自适应 CL 领域的持续探索。