最佳过渡矩阵估计还是最佳标签噪声鲁棒分类器？两种提升 T-revision 方法性能的可行方案
机器学习
2025-01-03 v1
摘要
标签噪声指由于人为错误或数据收集缺陷导致数据集中标签不正确的情况，这在实际应用中常见且可显著降低模型准确率。本报告探讨了如何估计噪声过渡矩阵以及构建对标签噪声鲁棒的深度学习分类器。当过渡矩阵已知时，我们应用前向校正和重要性重加权方法，以利用过渡矩阵纠正标签噪声的影响。当过渡矩阵未知或不准确时，我们使用锚点假设和 T-Revision 系列方法来估计或校正噪声矩阵。在本研究中，我们通过开发 T-Revision-Alpha 和 T-Revision-Softmax 来进一步改进 T-Revision 方法，以提升其稳定性和鲁棒性。此外，我们设计并实现了两个基线分类器，基于多层感知器 (MLP) 和 ResNet-18，使用交叉熵损失函数。我们在使用具有已知噪声过渡矩阵的 FashionMINIST 数据集上测试这些方法的性能，评估其预测干净标签和估计过渡矩阵的能力。对于噪声过渡矩阵未知的 CIFAR-10 数据集，我们估计了噪声矩阵并评估了这些方法预测干净标签的能力。
引用
@article{arxiv.2501.01402,
title = {Best Transition Matrix Esitimation or Best Label Noise Robustness Classifier? Two Possible Methods to Enhance the Performance of T-revision},
author = {Haixu Liu and Zerui Tao and Naihui Zhang and Sixing Liu},
journal= {arXiv preprint arXiv:2501.01402},
year = {2025}
}