自适应逐点加权课程学习
机器学习
2026-01-23 v2
摘要
课程学习（CL）模仿人类学习，即先学习简单样本，再学习较难样本，已成为训练深度网络的有效方法。然而，许多现有的自动 CL 方法在整个训练过程中，无论训练状态如何不断演变，都保持对简单样本的偏好。这就像人类课程未能提供个性化指导，可能会延迟学习进度。为了解决这个问题，我们提出了一种自适应逐点加权（APW）课程学习方法，该方法根据每个训练样本的训练损失为其分配权重。APW 的加权策略遵循由网络当前训练状态引导的从易到难的训练范式。我们对 APW 进行了理论分析，包括训练有效性、训练稳定性和泛化性能。实验结果验证了这些理论发现，并证明了所提出的 APW 方法的优越性。
引用
@article{arxiv.2505.01665,
title = {Adaptively Point-weighting Curriculum Learning},
author = {Wensheng Li and Yichao Tian and Hao Wang and Ruifeng Zhou and Hanting Guan and Chao Zhang and Dacheng Tao},
journal= {arXiv preprint arXiv:2505.01665},
year = {2026}
}