教师-学生课程学习
机器学习
2017-12-01 v2 人工智能
摘要
我们提出教师-学生课程学习(TSCL),一种自动课程学习框架,其中学生尝试学习复杂任务,教师从给定集合中自动选择子任务供学生训练。我们描述了一系列教师算法,其依赖于直觉:学生应更多练习那些进展最快的任务,即学习曲线斜率最高的任务。此外,教师算法通过也选择学生表现变差的任务来解决遗忘问题。我们证明 TSCL 在两个任务中匹配或超越了精心手工设计的课程的结果:使用 LSTM 的十进制数加法和 Minecraft 中的导航。使用我们自动生成的课程能够解决一个 Minecraft 迷宫,该迷宫在直接训练求解迷宫时根本无法解决,且学习比均匀采样子任务快一个数量级。
引用
@article{arxiv.1707.00183,
title = {Teacher-Student Curriculum Learning},
author = {Tambet Matiisen and Avital Oliver and Taco Cohen and John Schulman},
journal= {arXiv preprint arXiv:1707.00183},
year = {2017}
}