Massart 误标噪声模型下具有泛化保证的半空间自训练
机器学习
2022-02-16 v3 机器学习
摘要
我们研究了一种基于半空间的自训练算法的泛化性质。该方法从有标签和无标签训练数据中迭代地学习一组半空间，其中每次迭代包含两步：探索与剪枝。在探索阶段，通过最大化无标签样本间的无符号间隔来顺序寻找半空间，然后将距离高于当前阈值的样本赋予伪标签。这些伪标签样本随后被加入训练集，并学习一个新的分类器。该过程重复直至没有可供伪标注的无标签样本。在剪枝阶段，那些到最后一个半空间的距离大于相应无符号间隔的伪标签样本被丢弃。我们证明了所得分类器序列的误分类误差有界，并表明该半监督方法相比仅使用初始有标签训练集学习到的分类器性能从不退化。在多个基准上的实验证明了所提方法相比最先进方法的效率。
引用
@article{arxiv.2111.14427,
title = {Self-Training of Halfspaces with Generalization Guarantees under Massart Mislabeling Noise Model},
author = {Lies Hadjadj and Massih-Reza Amini and Sana Louhichi and Alexis Deschamps},
journal= {arXiv preprint arXiv:2111.14427},
year = {2022}
}