迁移与边缘化：利用特权信息消除标签噪声
机器学习
2022-06-16 v2
摘要
监督学习数据集通常具有特权信息，这些信息以特征的形式在训练时可用但在测试时不可用，例如提供标签的标注者 ID。我们认为，特权信息有助于消除标签噪声，从而降低噪声标签的有害影响。我们开发了一种使用神经网络进行监督学习的简单高效方法：它通过权重共享迁移利用特权信息学到的知识，并在测试时对特权信息进行近似边缘化。我们的方法 TRAM (TRansfer and Marginalize) 具有极小的训练时间开销，且测试时成本与不使用特权信息相同。TRAM 在 CIFAR-10H、ImageNet 和 Civil Comments 基准测试中表现优异。
引用
@article{arxiv.2202.09244,
title = {Transfer and Marginalize: Explaining Away Label Noise with Privileged Information},
author = {Mark Collier and Rodolphe Jenatton and Efi Kokiopoulou and Jesse Berent},
journal= {arXiv preprint arXiv:2202.09244},
year = {2022}
}
备注
Accepted at ICML 2022, Baltimore