中文

超越图像:面向低质量特征任务的标签噪声转移矩阵估计

机器学习 2022-06-22 v2 计算机视觉与模式识别

摘要

标签噪声转移矩阵表示从干净标签到噪声标签的转移概率,对于设计统计鲁棒性解决方案至关重要。现有的噪声转移矩阵估计器(例如使用锚点或可聚类性)侧重于相对更容易获得高质量表示的计算机视觉任务。我们观察到,低质量特征的任务由于无信息表示与有信息表示共存,无法满足锚点或可聚类性条件。为处理该问题,我们提出一种通用且实用的信息论方法,以降低低质量特征中信息量较少部分的比重。这一改进对于识别和估计标签噪声转移矩阵至关重要。突出的技术挑战是仅使用噪声标签而非干净标签来计算相关的信息论度量。我们证明,著名的 ff-互信息度量在使用噪声标签计算时通常能保持序关系。随后我们利用该提炼后的特征构建转移矩阵估计器。通过在一系列具有低质量特征的表格数据与文本分类任务上评估估计误差,也证明了所提方法的必要性与有效性。代码见 github.com/UCSC-REAL/BeyondImages。

关键词

引用

@article{arxiv.2202.01273,
  title  = {Beyond Images: Label Noise Transition Matrix Estimation for Tasks with Lower-Quality Features},
  author = {Zhaowei Zhu and Jialu Wang and Yang Liu},
  journal= {arXiv preprint arXiv:2202.01273},
  year   = {2022}
}

备注

ICML 2022