中文

噪声标签中的隐形与寻觅:基于 LLM 辅助的噪声鲁棒协作主动学习

机器学习 2025-04-07 v1 人工智能

摘要

从噪声标签学习 (LNL) 是一种在许多现实场景中出现的挑战,其中收集的训练数据可能包含错误或损坏的标签。大多数现有解决方案通过识别噪声标签并采用主动学习来查询人类专家进行去噪。尽管在大语言模型 (LLM) 时代,我们可以减少人类工作量以改进这些方法,但其性能仍受限于准确地从噪声数据中分离干净样本和噪声样本。本文提出了一种创新的协作学习框架 NoiseAL,基于主动学习将 LLM 与小模型 (SM) 结合用于从噪声标签中学习。在协作训练期间,我们首先采用两个 SM 组成协作预测网络,并提出动态增强阈值策略将噪声数据划分为不同的子集,然后从这些子集中选择干净样本和噪声样本输入主动标注 LLM 进行纠正。最后,我们采用不同的优化目标来应对不同程度标签噪声的子集。在合成数据和真实世界噪声数据集上的大量实验进一步证明了我们框架相对于最先进基准的优势。

关键词

引用

@article{arxiv.2504.02901,
  title  = {Hide and Seek in Noise Labels: Noise-Robust Collaborative Active Learning with LLM-Powered Assistance},
  author = {Bo Yuan and Yulin Chen and Yin Zhang and Wei Jiang},
  journal= {arXiv preprint arXiv:2504.02901},
  year   = {2025}
}