中文

Curriculum-enhanced GroupDRO:挑战子population偏移情景中避免课程学习的常规观念

机器学习 2026-03-05 v2 人工智能

摘要

在子population偏移情景中,课程学习(CL)方法仅会在模型权重上打上早期学习的伪相关性。迄今为止,鉴于目前最先进的子population偏移方法中,没有任何一种方法采用任何形式的课程学习。为克服此问题,我们设计了一种旨在从无偏视角初始化模型权重,以破坏在最终优化中基于全部可用数据容易收敛至偏差假设的 CL 方法。我们提出了 Curriculum-enhanced Group Distributionally Robust Optimization(CeGDRO)方法,优先选择最难以确认偏差的样本和最易冲突偏差的样本,利用 GroupDRO 在难易性差异上进行平衡。我们对所提方法进行基准测试,使用最流行的子population偏移数据集,显示在所有情景下均超过状态水平结果,最高可达 Waterbirds 数据集上 6.2%。

关键词

引用

@article{arxiv.2411.15272,
  title  = {Curriculum-enhanced GroupDRO: Challenging the Norm of Avoiding Curriculum Learning in Subpopulation Shift Setups},
  author = {Antonio Barbalau},
  journal= {arXiv preprint arXiv:2411.15272},
  year   = {2026}
}

备注

Accepted as a conference paper at ICAIRC 2024