用于基于流的主动单样本学习的增强记忆网络
机器学习
2019-09-05 v1 机器学习
摘要
在训练用于预测任务的深度架构时，主要挑战之一是标注训练数据的稀缺与高昂成本。主动学习（Active Learning, AL）是应对该挑战的一种途径。在基于流的主动学习中，观测持续提供给学习器，学习器须决定是否请求标签或作出预测。目标是在降低请求率的同时最大化预测性能。在以往研究中，强化学习已被用于学习主动学习的请求/预测策略。在我们的工作中，我们提出为强化学习过程配备记忆增强神经网络，以增强单样本能力。此外，我们引入类别边界采样（Class Margin Sampling, CMS）作为标准边界采样在强化学习设定下的扩展。该策略旨在减少训练时间并提升训练过程中的样本效率。我们在分类任务上评估所提方法，使用标签预测的实证准确率与标签请求百分比作为指标。结果表明，所提方法通过在训练过程中利用记忆增强网络与CMS，优于现有基线。
引用
@article{arxiv.1909.01757,
title = {Augmented Memory Networks for Streaming-Based Active One-Shot Learning},
author = {Andreas Kvistad and Massimiliano Ruocco and Eliezer de Souza da Silva and Erlend Aune},
journal= {arXiv preprint arXiv:1909.01757},
year = {2019}
}