深度网络的对抗式主动学习:一种基于边界的方法
机器学习
2018-02-28 v1 计算机视觉与模式识别
机器学习
摘要
我们提出了一种为深度神经网络设计的新主动学习策略。目标是在训练期间最小化向 oracle 查询的数据标注数量。先前可扩展于深度网络的主动学习策略主要基于不确定样本选择。本工作中,我们关注位于决策边界附近的样本。基于主动学习的边界理论的理论工作,我们知道此类样本可能有助于显著减少标注数量。虽然精确测量到决策边界的距离不可行,我们提议借助对抗样本。我们不再将其视为威胁,而是利用它们提供的关于输入空间分布的信息来近似到决策边界的距离。我们通过实验证明,对抗式主动查询使在 MNIST、Shoe-Bag 和 Quick-Draw 数据集上训练的 CNN 更快收敛。
引用
@article{arxiv.1802.09841,
title = {Adversarial Active Learning for Deep Networks: a Margin Based Approach},
author = {Melanie Ducoffe and Frederic Precioso},
journal= {arXiv preprint arXiv:1802.09841},
year = {2018}
}