无需验证数据时的标签噪声早停法

深度学习中的早停方法面临在标签噪声存在下的训练数据与验证数据之间权衡的挑战。具体而言，为了获得充足的验证数据而从训练数据中保留更多数据将限制所学模型的性能，而验证数据不足则可能导致对所需模型的次优选择。本文提出一种名为 Label Wave 的新型早停方法，该方法在标签噪声环境下无需验证数据即可选择所需模型。该方法通过跟踪模型在训练过程中对训练集预测的变化，旨在在模型过度拟合误标记数据之前及时停止训练。我们通过观察到在模型过度拟合误标记数据前的训练 epoch 通常出现最小预测波动来实证支持该方法。通过大量实验，我们展示了 Label Wave 方法在各种设置下的有效性，以及其增强现有噪声标签学习方法性能的能力。