中文

通过少样本人在回路精炼应对标签噪声学习

机器学习 2024-01-26 v1 信号处理

摘要

可穿戴技术能够持续监测各种健康指标,如体力活动、心率、睡眠和压力水平。可穿戴数据的一个关键挑战是获取高质量的标签。与视频等模态不同,视频本身可以有效地用于标记对象或事件,而可穿戴数据不包含关于用户物理表现的明显线索,通常需要丰富的元数据。因此,在标记此类数据时,标签噪声可能成为一个日益棘手的问题。在本文中,我们提出了一种解决噪声标签学习的新方案,称为少样本人在回路精炼(FHLR)。我们的方法首先使用弱标签学习一个种子模型。接下来,它使用少量专家修正来微调种子模型。最后,它通过加权参数平均合并种子模型和微调模型,从而实现更好的泛化性和鲁棒性。我们在四个具有挑战性的任务和数据集上评估了我们的方法,并将其与八个旨在处理噪声标签的竞争性基线进行了比较。我们表明,FHLR 在从噪声标签学习时实现了显著更好的性能,并以巨大优势达到了 SOTA,在对称和非对称噪声下准确率最高提升 19%。值得注意的是,我们发现 FHLR 对增加的标签噪声特别鲁棒,不像以前的工作那样遭受严重的性能下降。我们的工作不仅在高风险健康传感基准测试中实现了更好的泛化,还揭示了噪声如何影响常用模型。

关键词

引用

@article{arxiv.2401.14107,
  title  = {Learning under Label Noise through Few-Shot Human-in-the-Loop Refinement},
  author = {Aaqib Saeed and Dimitris Spathis and Jungwoo Oh and Edward Choi and Ali Etemad},
  journal= {arXiv preprint arXiv:2401.14107},
  year   = {2024}
}