通过培育自我一致性与邻居一致性 来对抗噪声标签

标签噪声在各种现实场景中普遍存在，构成监督深度学习的主要挑战。深度网络因记忆效应而对此类标签受污染的样本十分脆弱。现有主要方法聚焦于识别干净数据进行训练，然而这些方法常忽视标签噪声在不同小批量间的不平衡，以及对超出分布噪声数据的关注不足。为此，我们提出一种名为 Jo-SNC（基于自我一致性和邻居一致性的联合样本选择与模型正则化）的噪声鲁棒方法。具体而言，我们提出采用 Jensen-Shannon 散度来度量样本为干净或超出分布的“可能性”。该过程纳入每个样本的最近邻居，以强化干净样本识别的可靠性。我们设计一种自适应、数据驱动的阈值方案，以调整各类别的选择阈值。虽然干净样本进行常规训练，但检测到的分布内噪声样本和分布外噪声样本分别遵循部分标签学习和负学习。在此基础上，我们进一步提出三元组一致性正则化，以促进自我预测一致性、邻居预测一致性和特征一致性。广泛的基准数据集上的实验以及详尽的消融研究表明，我们的方法在现有状态方法之上展现出有效性和优越性。