批大小对停止文本分类主动学习的影响
机器学习
2018-05-18 v2 计算与语言
信息检索
机器学习
摘要
在使用主动学习时，从学习效率角度看，较小的批大小通常更高效。然而，在实践中由于速度和人类标注者的考量，必须使用较大的批大小。虽然过去的工作表明从学习曲线角度看较大的批大小会降低学习效率，但批大小如何影响停止主动学习的方法仍是一个开放问题。我们发现，大批量大小会导致一种领先停止方法的性能下降，且这种下降超出了由学习效率降低所引起的退化。我们分析了该退化，发现可通过改变做出停止决策时所考虑的过去学习迭代次数的窗口大小参数来缓解。我们发现，当使用较大的批大小时，采用较小的窗口大小能使停止方法更为有效。
引用
@article{arxiv.1801.07887,
title = {Impact of Batch Size on Stopping Active Learning for Text Classification},
author = {Garrett Beatty and Ethan Kochis and Michael Bloodgood},
journal= {arXiv preprint arXiv:1801.07887},
year = {2018}
}
备注
2 pages, 1 table; published in Proceedings of the IEEE 12th International Conference on Semantic Computing (ICSC 2018), Laguna Hills, CA, USA, pages 306-307, January 2018