长尾分布下的深度主动学习
机器学习
2017-11-06 v1
摘要
本文研究基于池的深度学习神经网络主动学习。受核心集数据集压缩思想的启发，我们提出了一种新颖的主动学习算法，该算法在表示层上的神经激活空间中，使用最远优先遍历从数据池中连续查询样本点。我们在三个数据集 MNIST、CIFAR-10 和 CIFAR-100 上展示了相比被动学习（随机采样）在样本复杂度上的一致且压倒性的改进。此外，我们的算法优于传统的不确定性采样技术（使用 softmax 激活获得），并且我们指出了不确定性采样仅略优于随机采样的情况。
引用
@article{arxiv.1711.00941,
title = {Deep Active Learning over the Long Tail},
author = {Yonatan Geifman and Ran El-Yaniv},
journal= {arXiv preprint arXiv:1711.00941},
year = {2017}
}