通过失败教学：面向 Transformer 自我改进的反例驱动课程

Transformer 模型常表现出脆弱的外推能力，在输入比训练时更长或结构更复杂时会失败。我们引入反例驱动课程（CEDC），一种自动化框架，通过不断关注其自身失败来提高模型鲁棒性。在每一步，CEDC 使用当前模型生成多样化的候选问题，采用快速可执行验证器识别错误预测（反例），然后在包含这些发现的失败的数据集上进行微调。我们在包含整数加法、排序、Dyck-2 语言识别以及三个文本分类基准的任务套件上评估了 CEDC。与静态训练和标准课程学习基线相比，CEDC 实现了最高可达 30 倍的长度外推，是均匀数据增强的 3.75 倍更具计算效率，且无需手动难度启发式。我们对反例进行了详细分析，展示课程如何自然地针对 progressively 更复杂的错误模式进行适应。我们的发现确立了以验证器引导的、以失败为导向的学习作为一种简单、强大且高效的范式，用于增强 Transformer 模型的泛化能力。