并行主动学习
机器学习
2013-10-31 v1 机器学习
摘要
训练样本并非都具有同等的信息量。主动学习策略利用这一观察结果，大幅减少了需要标记的样本数量。我们利用同样的观察结果，构建了一种并行化学习算法的通用策略。该策略之所以有效，是因为寻找信息量大的样本的过程具有高度可并行性，且我们证明了当筛选过程依赖于略微过时的模型时，其性能不会下降。并行主动学习对于训练具有非线性表示的非线性模型特别有吸引力，因为针对此类模型的实用并行学习算法很少。我们报告了使用 kernel SVMs 和 SGD-trained neural networks 进行的初步实验。
引用
@article{arxiv.1310.8243,
title = {Para-active learning},
author = {Alekh Agarwal and Leon Bottou and Miroslav Dudik and John Langford},
journal= {arXiv preprint arXiv:1310.8243},
year = {2013}
}