中文

具有标签请求有偏无响应的主动学习

机器学习 2024-03-12 v2 统计方法学 机器学习

摘要

主动学习可以通过识别要获取的最具信息量的新标签来提高训练预测模型的效率。然而,标签请求的无响应可能会影响主动学习在现实环境中的有效性。我们通过考虑数据中存在的无响应类型来概念化这种退化,证明有偏无响应对模型性能尤其有害。我们认为,在标注过程本质上依赖于用户交互的环境中,很可能出现有偏无响应。为了减轻有偏无响应的影响,我们提出了一种基于成本的采样策略修正——期望效用的置信上限(UCB-EU)——该修正合理地可应用于任何主动学习算法。通过实验,我们证明我们的方法在许多设置中成功减少了标注无响应造成的危害。然而,我们也刻画了在特定采样方法和数据生成过程下,UCB-EU 下标注中的无响应偏差仍然有害的设置。最后,我们在来自电子商务平台的真实世界数据集上评估了我们的方法。我们表明,UCB-EU 为基于点击曝光训练的转化模型带来了显著的性能提升。最概括地说,本研究既更好地概念化了无响应类型与通过主动学习改进模型之间的相互作用,又提供了一种实用、易于实现的修正方法来减轻模型退化。

关键词

引用

@article{arxiv.2312.08150,
  title  = {Active learning with biased non-response to label requests},
  author = {Thomas Robinson and Niek Tax and Richard Mudd and Ido Guy},
  journal= {arXiv preprint arXiv:2312.08150},
  year   = {2024}
}