基于能力估计的课程学习动态数据选择
计算与语言
2020-11-03 v1 机器学习
摘要
课程学习方法通常依赖启发式方法来估计训练样本的难度或模型的能力。在本工作中，我们提出以学习得到的难度参数替代难度启发式。我们还提出了基于能力估计的课程学习动态数据选择（DDaCLAE），该策略在每个训练轮次探测模型能力，以在该时刻选择最佳训练样本。我们表明，在 GLUE 分类任务上，使用学习得到的难度和/或能力的模型优于基于启发式的课程学习模型。
引用
@article{arxiv.2011.00080,
title = {Dynamic Data Selection for Curriculum Learning via Ability Estimation},
author = {John P. Lalor and Hong Yu},
journal= {arXiv preprint arXiv:2011.00080},
year = {2020}
}
备注
Findings of EMNLP 2020, presented at CoNLL 2020