InstanT:基于实例相关阈值的半监督学习
机器学习
2023-10-31 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
半监督学习(SSL)几十年来一直是机器学习中的基本挑战。被称为伪标签的 SSL 算法主要家族,涉及为置信的未标注实例分配伪标签并将其纳入训练集。因此,置信实例的选择标准对 SSL 的成功至关重要。近来,开发使用动态或自适应阈值的 SSL 方法引起了越来越多的兴趣。然而,这些方法通常对所有样本应用相同阈值,或对属于某一类别的实例使用类别相关阈值,而忽略了实例级信息。在本文中,我们提出研究实例相关阈值,其与现有方法相比具有最高自由度。具体而言,我们利用未标注实例的实例级模糊性以及伪标签的实例相关错误率,为所有未标注实例设计了一种新颖的实例相关阈值函数,从而使得更可能有错误伪标签的实例将具有更高阈值。此外,我们证明了我们的实例相关阈值函数为其所分配伪标签的正确性提供了有界概率保证。
引用
@article{arxiv.2310.18910,
title = {InstanT: Semi-supervised Learning with Instance-dependent Thresholds},
author = {Muyang Li and Runze Wu and Haoyu Liu and Jun Yu and Xun Yang and Bo Han and Tongliang Liu},
journal= {arXiv preprint arXiv:2310.18910},
year = {2023}
}
备注
Accepted as poster for NeurIPS 2023