矩阵平滑：噪声标签下基于转移矩阵的 DNN 正则化方法
计算机视觉与模式识别
2020-03-27 v1 机器学习
摘要
在存在噪声标签的情况下训练深度神经网络（DNN）是一项重要且具有挑战性的任务。由分类器和转移矩阵组成的概率建模描述了从真实标签到噪声标签的变换，是一种有前景的方法。然而，近期的概率方法直接将转移矩阵应用于 DNN，忽视了 DNN 易过拟合的特性，取得了不尽如人意的表现，尤其在均匀噪声下。本文受标签平滑启发，提出了一种新方法，其中使用平滑后的转移矩阵来更新 DNN，以限制概率建模中 DNN 的过拟合。我们的方法称为矩阵平滑（Matrix Smoothing）。我们还通过经验证明，该方法不仅显著提升了概率建模的鲁棒性，甚至获得了更好的转移矩阵估计。
引用
@article{arxiv.2003.11904,
title = {Matrix Smoothing: A Regularization for DNN with Transition Matrix under Noisy Labels},
author = {Xianbin Lv and Dongxian Wu and Shu-Tao Xia},
journal= {arXiv preprint arXiv:2003.11904},
year = {2020}
}
备注
ICME 2020