中文

RC-Mixup:针对回归任务中噪声数据的鲁棒数据增强策略

机器学习 2024-08-19 v2

摘要

我们研究了在存在噪声数据的回归任务上进行鲁棒数据增强的問題。数据增强對於擴展深度學習模型至關重要,但大多數技術如流行的Mixup方法主要設計用於影像數據上的分類任務。最近,還有一些專門針對回归任務的Mixup技術,如C-Mixup。在與Mixup相比,C-Mixup基於樣本的標籤距離更審慎地選擇混合的樣本,以獲得更好的回归性能。然而,C-Mixup不區分噪聲樣本與乾淨樣本,這在混合時可能導致次優的模型性能。同時,健全的訓練已被廣泛研究,其目標通過多輪模型訓練對抗噪聲數據以訓練準確的模型。因此,我們提出了數據增強策略RC-Mixup,將C-Mixup與多輪健全訓練方法緊密集成,以實現協同效應。特別是,C-Mixup有助于健全訓練識別乾淨數據,而健全訓練為C-Mixup提供更乾淨的數據以實現更好的性能。RC-Mixup的關鍵優勢在於它是數據導向的,健全模型訓練算法本身無需修改,即可從數據混合中獲得益處。我們在實驗中展示了RC-Mixup在噪聲數據基準測試中遠遠優於C-Mixup和健全訓練基線,並可與各種健全訓練方法集成。

关键词

引用

@article{arxiv.2405.17938,
  title  = {RC-Mixup: A Data Augmentation Strategy against Noisy Data for Regression Tasks},
  author = {Seong-Hyeon Hwang and Minsu Kim and Steven Euijong Whang},
  journal= {arXiv preprint arXiv:2405.17938},
  year   = {2024}
}

备注

Accepted to KDD 2024