面向偏标记学习中无偏探索的研究
机器学习
2023-07-04 v1 计算机科学中的逻辑
摘要
我们考虑使用标准神经架构并以 softmax 作为最终层，从部分标记监督（输入带有多个可能标签）中学习概率分类器。我们识别出即便在简单架构中也可能由 softmax 层引起的偏置现象，该现象阻碍了对替代选项的合理探索，使梯度下降的动态对初始化过度敏感。我们引入了一种新的损失函数，可在替代输出空间内实现无偏探索。我们给出了该损失函数的理论依据，并在合成数据、标准部分标记基准以及一个贡献的、与现有规则学习挑战相关的新基准上对其影响进行了广泛评估。
引用
@article{arxiv.2307.00465,
title = {Towards Unbiased Exploration in Partial Label Learning},
author = {Zsolt Zombori and Agapi Rissaki and Kristóf Szabó and Wolfgang Gatterbauer and Michael Benedikt},
journal= {arXiv preprint arXiv:2307.00465},
year = {2023}
}