通过经验的合作机制重新思考师生课程学习
机器学习
2024-09-13 v2 人工智能
计算机科学与博弈论
摘要
师生课程学习是一个从人类文化传承和学习中汲取灵感的课程学习框架。它涉及教师算法通过向学习者算法展示受控的经验来塑造其学习过程。尽管取得了成功,但理解 TSCL 有效的条件仍然具有挑战性。在本文中,我们提出了一种以数据为中心的视角来分析 TSCL 中师生交互的底层机制。我们利用合作博弈论来描述教师向学习者展示的经验集合的组成及其顺序如何影响 TSCL 方法找到的课程性能。为此,我们证明了对于每个 TSCL 问题,都存在一个等价的合作博弈,并且 TSCL 框架的几个关键组件可以使用博弈论原理重新解释。通过涵盖监督学习、强化学习和经典博弈的实验,我们估计了经验的合作值,并使用值比例课程机制来构建课程,即使在 TSCL 难以应对的情况下也是如此。我们在本工作中提出的框架和实验设置代表了对 TSCL 进行更深入探索的新基础,揭示了其底层机制,并为其在机器学习中更广泛的应用提供了见解。
引用
@article{arxiv.2404.03084,
title = {Rethinking Teacher-Student Curriculum Learning through the Cooperative Mechanics of Experience},
author = {Manfred Diaz and Liam Paull and Andrea Tacchetti},
journal= {arXiv preprint arXiv:2404.03084},
year = {2024}
}
备注
Accepted at TMLR (https://openreview.net/forum?id=qWh82br6KT)